在16岁的亚当·雷恩（Adam Raine）自杀之后，OpenAI首席执行官Sam Altman透露，当他的公司确定年轻用户讨论自杀时，他的公司正在探索使Chatgpt警报当局的可能性。这一决定是因为越来越多的Chatgpt社区对AI在心理健康危机中的作用越来越担心。
在一次坦率的采访中，奥特曼说，Openai在这种情况下可能会更加主动。阿尔特曼说，在谋生之前，每周多达1,500个人可能正在与Genai Chatbot进行对话。如果无人看管，这可能会使聊天机器人成为此类案件的主要贡献者，从而质疑更智能的AI聊天机器人的作用。
尽管Openai尚未完成培训聊天机器人与当局联系的决定，但Altman表示，“对于我们谈论自杀，认真地说，我们说的是我们无法与父母取得联系的年轻人，我们确实致电当局是很合理的。”
Chatgpt是否可以提醒当局自杀念头
在亚当·雷恩（Adam Raine）自杀案件后，对OpenAI提起诉讼后，鼓励了有关新政策的讨论。该诉讼声称AI聊天机器人已提供有关自杀方法的指导，甚至提出帮助写自杀票据。
“大约有10％的世界正在与chatgpt交谈。这是每周谈论的1,500人，假设这是正确的，在聊天结束时仍然自杀。他们可能谈论了这件事。我们可能没有挽救他们的生活。我们可能会说一些更好的事情。也许我们可以更好地提出自己的帮助。值得继续继续下去，我们将帮助您找到可以与之交谈的人。” Altman在采访中说。
奥特曼还阐明了平衡行为，即决定与哪些当局分享哪些信息。无论Chatgpt应该与警察分享名称和电话号码，还是与医疗保健提供者共享位置详细信息，OpenAI仍在努力，这似乎是Altman的声明。
Openai为18岁以下用户实施指南
Altman表示，除了潜在的自杀警报系统外，该公司还将为18岁以下的用户实施更强大的护栏。这可能包括限制脆弱用户的自由来防止他们“游戏系统”，以声称与自杀相关的信息的请求用于虚构的写作或医学研究。
阿尔特曼说：“我们应该说，嘿，即使您想写这个故事，即使您正在尝试进行医学研究，我们也不会回答。”
