2024-11-06 美国 来源:其他 作者:刘纪铖 领域:信息
关键词:
据品玩网11月4日消息,美国斯坦福人工智能实验室(Standard Intelligence Lab)推出开源模型Hertz-Dev,可实现AI实时对话。Hertz-Dev参数规模达到8.5亿,该模型由一块NVIDIA RTX4090显卡驱动,理论延迟仅为80毫秒,实际使用中的延迟为120毫秒。Hertz-Dev架构采用了多种新颖的优化技术,确保了在降低计算负担的同时,输出质量依然保持高水平。初步测试表明,与之前的开源模型相比,Hertz-Dev在响应时间上可减少多达40%。这种灵活性使得Hertz-Dev适用于多种场景,从智能家居的语音控制到客户服务的自动化。