В языковую модель подсадили «мысль», и иногда она это замечала: что показал год проверок

[GritsanY]

We need to go deeper

[phenik]

Интроспекция языковых моделей, если она вообще существует, может оказаться совсем не похожей на человеческую

Аналог такого исследования на человеке изменение состояния концептуальных нейронов или ансамблей нейронов с помощью прямого воздействия на них, аналога инъекции. Но такие исследования не этичны, за исключением близких клинических случаев. Можно исследовать по сценарию прайминга, в которых первичный стимул не осознается. Аналог для ЯМ манипуляции в промптах. Однаео упирается в понимание того есть ли у ЯМ аналог бессознательного и сознательного, что и является целью исследований указанных в статье. Даже на уровне постановки исследований пока не пересекается, что говорить о самом феномене инстроспекции. С инъекцией в ЯМ речь скорее о неполном контролировании условий повторяемости тестов, которое приводило к тому, что в ~20% они реагируют на них, а в остальных нет. В исследованиях прайминга также отмечается большой процент не воспроизводимости результатов исследований, однако сложность мозг и психика человека пока не сравнимы со сложностью ЯМ.