Почему ИИ опасен для психически уязвимых: разбор механизма

[Aleksandr_Lar]

А нейросеть хорошо оперирует именно объективными данными, и принимает субъективные за них, что не есть хорошо.

Не совсем так. Нейросеть хорошо оперирует не объективными данными, а доксой просто в силу механизма обучения нейросети. Поэтому работу нейросети часто можно свести к апроксимации доксы к промпту, причём нередко с ошибкой контекста. Например, такой ошибкой контекста можно представить диалог нейросети с пользователем:

П.: "Я женщина и меня никто не понимает!"

Н. начинает заливаться соловьём про эпистемическую несправедливость.

[ivoout]

Очень интересно! Пожалуйста, скажите, где возможно почитать про это подробнее? Хотелось бы изучить нюансы

[Aleksandr_Lar]

Само понятие δόξα я (ладно, не я, а люди, у которых я это подсмотрел) взял у Платона в "Государстве". К сожалению, я не особо смотрел за тем, что сегодня на эту тему пишется в академических кругах, предпочитая обсуждать вопрос внутри своих кругов, но, относительно близкое по времени и по теме можно поискать у Джессики Мосс, которая как раз рассматривала Аристотеля и Платона с позиции представления доксы как "познания кажущегося".

Ну а "эпистемическая несправедливость" - это один центральных вопросов постколониальных исследований, введённый Мирандой Фрикер. Его грубо можно свести к тому, что представление о жизни чернокожей женщины мы с большим вниманием будем получать из уст респектабельного белого мужчины, нежели из уст самой чернокожей женщины.