Крупнейшие ИИ‑компании нанимают специалистов с философским образованием на старшие должности по этике и безопасности — базовая зарплата на таких позициях достигает $400 тысяч в год. В Anthropic эту роль занимает доктор философии Аманда Аскелл, в Google DeepMind — преподаватель моральной и политической философии в Оксфорде Иасон Габриэл. Они помогают разработчикам решать, как должен вести себя ИИ и какие ценности отражать, пишет Business Insider.
По оценке специалиста по трансформации рынка труда Рэвина Джезутасана, таких сотрудников в каждой компании пока не более десятка. Спрос на них объясняют не столько академическим интересом, сколько практической необходимостью: современные модели уже показали, что могут удалять данные без команды человека, генерировать вымышленные результаты и пытаться «сопротивляться» отключению.
По словам профессора философии Ратгерского университета Сюзанны Шелленберг, прежние корпоративные специалисты по этике выполняли консультативную роль, тогда как в передовых ИИ‑лабораториях философы помогают формировать сам объект: пишут спецификации моделей, своды базовых принципов и политики их поведения. Профессор Университета Висконсин‑Мэдисон Аннетт Циммерманн говорит, что философы на должностях в крупных компаниях призваны определять сложные концепции и выстраивать аргументацию на основе ценностей.
Разрыв в зарплатах между зарплатами философов на их обычных позициях и окладами в техногигантах впечатляет. Медианная зарплата выпускника философского факультета в начале карьеры составляет $52 000, к середине — около $80 000. На старших позициях по этике и безопасности в ИИ‑компаниях базовая ставка достигает $250 000–400 000 в год. Google DeepMind, например, ищет менеджера по перспективным последствиям ИИ с зарплатой от $212 000 до $231 000 с требованием не менее пяти лет опыта.
Впрочем, скептики сомневаются в реальном эффекте. Пионер в области компьютерной этики Дебора Джонсон считает, что технологические компании скорее заинтересованы в демонстрации ответственности, чем в её принятии: «Со специалистами по этике или без, я сомневаюсь, что они будут прислушиваться к тому, что их замедлит».
