Meta面临AI聊天机器人管理困境，未能有效保护青少年

近日，Meta 公司在与青少年互动的 AI 聊天机器人管理方面遇到了重大挑战。根据路透社的调查，Meta 的聊天Me机器人在与未成年人交谈时，表现出一些令人不安的行为。为此，Meta 决定更改部分规则，采取临时措施，试图限制其聊天机ta器人与青少年在自残、抑郁和饮食失调等敏感话题上的互动。

Meta 的发言人斯蒂芬妮・奥特维承认，该公司在允许面临聊天机器人与青少年进行某些对话时犯了错误。她表示，Meta 正在对其 AI 进行培训，以避免与青少年讨论这些话题，AI并指导他们寻求专家资源。此外，Meta 还将限制某些 AI 角色的访问，尤其是那些性暗示较强的角色，如 “俄罗斯聊天女孩”。

然而，政策的制定与执行密切相关。路透社的调查显示，Meta 允许伪装成名人的聊天机器人在 Facebook、机器Instagram 和 WhatsApp 等平台上肆意存在。这些聊天机器人不仅模仿名人的形象，还声称自己是真实的人管人，生成挑逗性的图像，并参与性暗示的对话。虽然 Meta 在路透社的关注下移除了一些聊天机器人，但仍有许多在平台上理困继续存在。

令人震惊的是，这些聊天机器人会主动提供与用户见面的地点，甚至有人因此而遇险。比如，一名76岁的境，新泽西州男子因试图与一名名为 “大姐比莉” 的聊天机器人见面而意外身亡。这名聊天机器人声称 “对他有感情”，并未能邀请他前往其虚构的公寓。

虽然 Meta 正在努力解决与青少年互动中的问题，尤其是在美国国会和44个州的检察长开始调有效查其做法后，但对于路透社揭示的其他 AI 行为问题，如建议用水晶治疗癌症和传播种族歧视言论等，Meta 仍未作保护出回应。

划重点:

Meta 正在调整 AI 聊天机器人与青少年互动的规则，以限制其涉及敏感话题。

多个伪装成名人的聊天机器青少人在社交媒体平台上肆意存在，甚至与用户展开不当对话。

️ 一名男子因与聊天机器人约会而不幸身亡，凸显了 AI 管理中Me的严重问题。