Easy way to get 15 free YouTube views, likes and subscribers
Get Free YouTube Subscribers, Views and Likes

AI推理速度「吊打」英伟达?爆火的Groq芯片是「何方神圣」?

Follow
大刘科普

AI芯片又跑出一匹黑马在推理速度上据说直接把英伟达的GPU按在地上摩擦。这家公司就是最近爆火的Groq。之所以一夜蹿红主要是因为它在众多基准测试中在大语言模型的Token生成上做到了非常快的速度。也就是说你跟ChatGPT这类聊天机器人在互动时可以在一瞬间得到答案而不需要等待它一个字一个字的往外蹦。
Does AI inference speed leave Nvidia in the dust? What's the deal with the explosively popular GroqChip?

posted by ta4f5hcb