美国斯坦福人工智能实验室推出开源模型,可实现AI实时对话

2024-11-06  美国 来源:其他 作者:刘纪铖 领域:信息

关键词:

据品玩网11月4日消息,美国斯坦福人工智能实验室(Standard Intelligence Lab)推出开源模型Hertz-Dev,可实现AI实时对话。Hertz-Dev参数规模达到8.5亿,该模型由一块NVIDIA RTX4090显卡驱动,理论延迟仅为80毫秒,实际使用中的延迟为120毫秒。Hertz-Dev架构采用了多种新颖的优化技术,确保了在降低计算负担的同时,输出质量依然保持高水平。初步测试表明,与之前的开源模型相比,Hertz-Dev在响应时间上可减少多达40%。这种灵活性使得Hertz-Dev适用于多种场景,从智能家居的语音控制到客户服务的自动化。

消息来源:https://www.pingwest.com/w/299730