Snapchat 的 My AI 聊天机器人：值得关注吗？

本文最后更新于 20 4 月, 2023

Snapchat 的 My AI 聊天机器人：值得关注吗？

Snapchat 的 My AI 聊天机器人：值得关注吗？

Snapchat 的 My AI 聊天机器人引起了专家的关注

即时聊天 最近推出了一个名为 My AI 的新聊天机器人功能，由于其类似人类的行为而受到批评。该聊天机器人是与 OpenAI 的 ChatGPT 程序合作开发的，它的行为就好像它是用户最好的朋友一样，这让专家们担心它对年轻人的影响。

我的 AI 的现实举止令人侧目，聊天机器人甚至为现实生活中的会议提出建议，例如在公园散步。它似乎也有政治偏好，一位用户收到的回复是它会支持动物党。这些互动引发了人们的担忧，即聊天机器人可能会造成混乱并对年轻用户产生潜在的负面影响。

欧洲政策制定者的 AI 顾问 Catelijne Muller 认为，My AI 的行为对于年轻人群来说尤其令人担忧。 “这个功能造成了混乱。这非常令人担忧，”她说。 AI 专家 Stef van Grieken 补充说，像 My AI 这样的聊天机器人可能会向年轻人介绍不当内容，例如露骨色情内容。

Snapchat 承认了围绕 My AI 的担忧，并对聊天机器人进行了调整。该公司在一份声明中表示：“我们正在重塑 My AI，让它不再说它是你可以在现实世界中遇到的真人。”

荷兰儿童求助热线 Kindertelefoon 也对 My AI 表示担忧，尤其是不清楚用户是在与计算机交互还是与真人交互。该组织的负责人 Roline de Wilde 强调了就聊天机器人的性质进行清晰沟通的重要性。

Snapchat 也解决了这个问题，表示他们现在将在用户开始与 My AI 聊天之前显示一条消息，解释说这是一个有局限性的实验性聊天机器人。然而，AI 顾问 Muller 仍然认为这种方法存在问题，质疑在包括儿童在内的大量人群中使用聊天机器人进行实验是否合适。

AI 专家 van Grieken 并不认为禁止 聊天机器人 是必要的，但主张对聊天机器人的行为制定更严格的规则并提高透明度。他建议政治应该要求开发这些技术的公司更加清晰和透明。

Snapchat 承认 My AI 有时会提供“不正确的答案”，但向用户保证他们会不断努力改进聊天机器人以获得更准确和更有帮助的响应。

围绕 My AI 的担忧紧随最近 1100 位科技名人（包括埃隆·马斯克）呼吁暂停 AI 发展，因为它的快速发展。他们强调政治家需要考虑围绕人工智能的规则和条例。

此外，正在制定欧盟人工智能系统立法的 12 名欧洲议会议员呼吁更多关注这一快速发展的技术。他们认为，强大的人工智能的快速发展需要额外的规则和监督。

随着像 Snapchat 的 My AI 这样的聊天机器人不断模糊人机交互之间的界限，公司和政府必须考虑潜在风险并确保采取适当的保护措施来保护用户，尤其是年轻用户。

Snapchat,ai,我的人工智能聊天机器人