必应聊天开放测试后添加GPU速度赶不上使用量

时间:2023-05-09 08:56:37       来源:搜狐号-IT之家


(资料图片仅供参考)

IT之家 5 月 9 日消息,微软广告和网络服务负责人米哈伊尔・帕拉欣(Mikhail Parakhin)近日回复网友,针对必应聊天(Bing Chat)响应等待时间过长致歉,并表示 GPU 的添加速度赶不上用户使用量的增加。

IT之家翻译 Parakhin 的推文内容如下:“很抱歉让你遇到了延迟问题。由于使用量不断增长,我们添加 GPU 的速度还不够快。我们会竭尽所能地修复这个问题”。

微软并未公布支撑 Bing Chat 运行使用了多少块 GPU,不过市场调查机构 TrendForce 集邦咨询公布的报告指出,如果以英伟达 A100 显卡的处理能力计算,运行 ChatGPT 将需要使用到 30000 块英伟达 GPU。

Parakhin 在相关推文中还提及了其它内容:

关键词: