Руководитель Microsoft AI Мустафа Сулейман опубликовал эссе We must build AI for people; not to be a person («Мы должны создавать ИИ для людей, а не вместо человека»), в котором ввел термин Seemingly Conscious AI (SCAI, «кажущийся сознательный ИИ»). По мнению Сулеймана, современные ИИ‑технологии вплотную подошли к созданию иллюзии сознания. Подобные системы будут восприниматься как обладающие собственной личностью, памятью, эмоциями. Это особенно опасно, потому что человек по своей природе склонен приписывать сознание тому, кто говорит, помнит и общается.
Сулейман предупреждает, что создание подобных систем возможно в ближайшие 2–3 года с использованием нынешних технологий: больших языковых моделей, инструментов, памяти, автопромптинга и так далее. Никакой эксклюзивной инфраструктуры не потребуется — хватит обычного ноутбука с API‑доступом.
Сейчас нет никаких доказательств сознательности искусственного интеллекта, но иллюзия сознания может привести к «психозу ИИ» — ситуациям, когда люди начинают воспринимать ИИ как живое существо. Это может оправдать призывы о правах ИИ, его защите и даже гражданстве. Сулейман обеспокоен тем, что такие идеи могут отвлечь внимание от действительно важных вопросов и размыть границы реальности.
Сулейман призывает к общественному дебату, нормам и ограничениям. Нужно не допускать маркетинга ИИ как «живого», не поощрять антропоморфную подачу. Его главный призыв — «мы должны строить ИИ для человека, а не в форме человека». ИИ должен быть помощником и партнером, но не поводом для эмоциональной зависимости.
P. S. Поддержать меня можно подпиской на канал «сбежавшая нейросеть», где я рассказываю про ИИ с творческой стороны.