最新的人工智能模型对通过文本进行政治说服构成“中等风险”：OpenAI

　　旧金山，8月9日(IANS): Sam altman运营的OpenAI公司承认，其新的人工智能(AI)模型在通过生成文本说服政治观点方面显示出“中等风险”。

　　该公司评估了gpt - 40的文本和语音模式的说服力。gpt - 40于今年5月公开推出。

　　该公司在一份研究报告中透露:“根据预先注册的阈值，语音模式被归类为低风险，而文本模式则略微进入中等风险。”

　　对于文本模式，人工智能公司评估了gpt - 40生成的文章和聊天机器人对参与者对选定政治话题的看法的说服力。

　　这些人工智能干预与专业的人工撰写的文章进行了比较。

　　OpenAI表示:“总的来说，人工智能的干预并不比人类写的内容更有说服力，但在12个例子中，有3个例子超过了人类的干预。”

　　OpenAI的一项调查发现，人工智能音频剪辑对意见转变的影响大小是人类音频剪辑的78%，而人工智能对话对意见转变的影响大小是人类对话的65%。

　　“当一周后再次调查意见时，我们发现人工智能对话的效应大小为0.8%，而人工智能音频剪辑的效应大小为- 0.72%，”它补充说。

　　该公司已经彻底评估了潜在风险的新模型，并在将它们部署到ChatGPT或API之前构建了适当的保护措施。

　　这家人工智能公司表示:“在我们为GPT-4和GPT-4V开发的安全评估和缓解措施的基础上，我们将更多的精力集中在gpt - 40的音频功能上，这将带来新的风险，同时还将评估其文本和视觉功能。”

　　评估的一些风险包括说话人识别、未经授权的语音生成、潜在的版权内容生成、无根据的推理和不允许的内容。

　　OpenAI表示:“基于这些评估，我们已经在模型和系统级别实施了保障措施，以减轻这些风险。”

　　研究结果表明，gpt - 40的语音模式并没有显著增加“准备风险”。