据MeriTalk网8月4日消息，美国情报高级研究计划局（IARPA）发布一份信息请求（RFI），寻求有关人工智能大型语言模型（LLM）相关的漏洞信息。IARPA认为，LLM展现出的能力有望改善工作流程，但其中也存在错误和潜在危害行为，对用户构成威胁。IARPA征求的具体信息包括：对LLM威胁和漏洞范围进行分类和理解的框架；具体的LLM威胁和漏洞，包括每个威胁和漏洞的描述，以及它们可能造成的影响；检测或减轻LLM漏洞对用户威胁的新方法；量化LLM输出的置信程度的新方法。此外，IARPA特别对“白盒”模型和“黑盒”模型的特征和方案感兴趣。

消息来源：https://meritalk.com/articles/iarpa-seeking-info-on-erroneous-ai-tools/