在某些情况下，当涉及AI时，最好的是新的竞争对手GPU制造商只有一个提高了NVIDIA。
喜欢指数的未来？加入我们的Xpotential社区，通过Xpotential University的课程进行未来的证明，阅读有关指数技术和趋势，连接，观看Keynote或浏览我的博客。
Groq由前Google工程师兼首席执行官乔纳森·罗斯（Jonathan Ross）领导，他声称创建了有史以来第一个语言处理单元（LPU），它说可以为AI应用程序提供最快的速度。这是一个大胆的说法，但最新的演示远远超过了备份，这表明它很可能成为AI的绝对改变游戏规则。
罗斯（Ross）以前设计了Google的张量处理单元（TPU），他于2016年推出了Groq，以创建一个能够比现有CPU和GPU更有效地执行深度学习推断任务的芯片。
该公司的张量流处理器（TSP）比喻为装配线，以顺序有组织的方式处理数据任务。相比之下，GPU类似于静态工作站，工人来并采用处理步骤。随着生成性AI的兴起，TSP的效率变得很明显，这使Ross重塑了TSP为语言处理单元（LPU），以提高其可识别率。
在行动中看到它。
与GPU不同，LPU使用简化的方法，消除了对复杂调度硬件的需求，从而确保了一致的延迟和吞吐量。LPU也是节能的，可减少管理多个线程的开销，并避免核心未充分利用。GROQ的可扩展芯片设计允许在没有传统瓶颈的情况下链接多个TSP，从而简化了大规模AI型号的硬件要求。
GROQ的第一个公开演示是闪电般的AI答案引擎，在少于一秒钟的时间内用数百个单词产生了答案。马特·舒默（Matt Shumer）在X上发布了测试，并说超过3/4的时间搜索没有生成。
如果您想自己尝试Groq，以了解AI的速度，请访问此聊天页面。使用左侧的下拉菜单在不同的可用型号之间切换。
