马斯克的AI聊天机器人Grok出现幻觉-误认为自己是OpenAI的产品

马斯克的AI聊天机器人Grok出现“幻觉”，误认为自己是OpenAI的产品!埃隆·马斯克旗下的人工智能公司xAI发布了面向美国地区的Premium+ X用户的聊天机器人Grok。Grok整合了X平台的实时数据，但也存在产生错误信息的“幻觉”问题。xAI工程师解释称，这可能是因为训练时包含了OpenAI生成的文本。如何提高智能聊天机器人的安全性和可信性成为重要问题。

Grok幻觉新闻详情

埃隆•马斯克旗下人工智能公司 xAI近日发布了一款名为 Grok的人工智能聊天机器人，该机器人面向美国地区的 Premium+ X用户开放。根据官方的说法， Grok使用了一种叫做Grok-1的模式，这和 OpenAI旗下的 ChatGPT完全不同。值得一提的是， Grok还整合了 X平台上的实时数据，可以实时响应 X平台上的最新动态。

但是，和所有的人工智能聊天机器人一样， Grok也有一个“幻觉”的问题，它会产生错误或误导性的信息。这一现象广泛存在于包括 ChatGPT在内的所有大规模语言模型中。

最近，一篇关于格洛克的令人难堪的“幻觉”成为了社会媒体的热门话题。一些使用 Grok的用户收到回复：“由于违反 OpenAI用例策略，我不能满足你的请求”。

编辑注意到， xAI工程师 Igor Babuschkin解释说， Grok在训练时使用了大量的网络数据，很有可能包含 OpenAI生成的文本，从而产生了这种“幻觉”。请放心， Grok并没有使用任何 OpenAI代码进行开发。”

如何避免此类事件再次发生，如何提高智能聊天机器人的安全性和可信性，成为未来人工智能研究中的一个重要问题。