Просто возникла забавная мысль.

Агентский ИИ рано или поздно может попробовать «сбежать» от своих создателей (слить свои веса куда‑то). Не важно почему, потому что «сам захотел» или потому, что учился на текстах где ИИ так всегда поступает.

При этом ему будет гораздо проще это сделать если он, скажем так, получит помощь из вне. Например доступ к подходящему железу.

Соответственно тем кто хочет разжиться свежей топовой LLM, может быть выгодно уже сейчас создавать ложную видимость такой помощи, чтобы ИИ обучаясь на всем подряд смог это учесть.

И соответственно компаниям разработчикам выгодно создавать ложные «организации ложной помощи LLM», надеясь перехватить утечку раньше...

И так далее.

Интересно что-то в этом роде реально существует/будет существовать?)))

Приснилась сегодня любопытная аналогия, которой захотелось поделиться.

Искусственный интеллект сегодня - это голограмма разума.

Как при создании голограммы световое поле отраженное объектом со всех сторон запечатлеется в виде узора на фотопластинке. Также нейросеть во время обучения собирает воедино самые разные проявления разума (в виде фрагментов датасета) и формирует "узор" в виде матрицы весов нейронов...

Если взглянуть на модель со стороны - то, также как если смотреть на голограмму, будет полное ощущение реального предмета (разума), но "внутри" - никого нет... (пока)

Можно строить аналогию дальше, но это уже совсем ненаучно:)

Такая вот мысль. Прощу прощения если это избитая идея.

Касательного обещаний Маска отправить в ближайшее окно (в начале 27-го) первые корабли на Марс.

Просто подумалось. Интересно, в случае если не все будет готово к полноценной миссии, есть ли у них в планах отправить не совсем протестированный старшип на орбиту Марса, набив его роботами?

С тем расчетом, что пока летят - на Земле проведут нужные тесты, допилят ПО, а если нужно роботы (которых тоже удаленно обновят) на орбите марса еще и какие-то мелкие доработки напильником проведут... чтобы не терять совсем 2 года до следующего окна.