漫话开发者 - UWL.ME 精选全球AI前沿科技和开源产品

ChatGPT出现“幻觉”,研究人员担心它无法修复

talkingdev • 2023-05-31

1375635 views

内容概要: - 由于AI技术中的“幻觉”问题,MIT研究人员提出了一种新颖的“智能体社会”方法,用于解决像OpenAI的GPT-4这样的大型语言模型生成虚假或不准确信息的问题。 - 该方法涉及使用多个聊天机器人为同一问题提供不同的回答,并进行辩论,直至达成共识。 - 尽管这种解决方案非常有创意,但很明显,幻觉仍然是AI技术中的一个重要挑战。幻觉影响着由AI生成的内容的可靠性,并引发了对在敏感领域(如医学、法律和网络安全)潜在滥用的担忧。