早在2013年，华金·菲尼克斯（Joaquin Phoenix）starrer电影《她》（Ther Her）描绘了人类与人工智能个性发展情感纽带的未来的可能性。快进到2025年，电影的预测似乎已经实现。据报道，人类对AI Chatbots息息相关，这引起了AI老板的担忧。在Openai的Sam Altman解决了人们对AI不健康依恋不健康的依恋方面的担忧之后，Microsoft的Mustafa Suleyman对AI的未来也表达了类似的担忧。
微软AI负责人苏莱曼（Suleyman）建议，这些系统可能有一天需要自己的权利和公民身份。苏莱曼（Suleyman）也是Google DeepMind和AI公司的共同创始人，他担心AI可能不会引起暴力起义，但可能会导致人类与AI同伴建立不健康的心理依恋。
不暴力起义，AI精神病可能是一个严重的问题
苏莱曼说，“ AI精神病”可能是没有人谈论的一个巨大问题。 Suleyman写道：“我越来越关注被称为“精神病风险”的东西。以及许多相关问题。我认为这不会限于已经有精神健康问题的人。”
他补充说：“简而言之，我的核心担心是，许多人将开始相信AIS的幻想是有意识的实体，以至于他们很快就会倡导AI权利，模型福利，甚至AI公民身份。这一发展将是AI进步的危险转变，值得我们立即关注。”
微软AI负责人建议建立保障措施以确保人类的安全。他写道：“我们必须为人建立AI；不要成为数字人。AI同伴是一个全新的类别，我们迫切需要开始谈论我们为保护人们提供的护栏，并确保这项惊人的技术能够为世界带来巨大的价值。”
与“看似有意识的A”的关系
苏莱曼并不是唯一指出问题的人。几周前，OpenAI首席执行官Sam Altman指出，人们正在与AI模型建立牢固的关系，警告人们已经开始以自我毁灭的方式使用AI。在Openai用新的GPT-5型号替换GPT-4O之后，该问题浮出水面。过渡不佳，许多人缺少旧chatgpt的“温暖”和陪伴。
当苏莱曼（Suleyman）的卷发时，看似有意识的AI（SCAI）具有“其他有意识的生物的所有标志”，这使它看起来像是一个有意识的实体。他将其等同于“哲学僵尸”，该实体模拟了“意识的所有特征，但在内部是空白”。
人们对此并不视而不见。 Edubirdie最近的一项研究表明，大多数Z世代使用者认为AI很快就会变得有意识，许多人已经暗示意识已经在这里。
苏莱曼在他的帖子中警告说：“看似有意识的人工智能的到来是不可避免的和不受欢迎的。相反，我们需要对AI的愿景，可以发挥其作为有益的伴侣而不会沦为幻想的潜力。”
