Обновить
23
Elena@Dorial

Software QA Automation Engineer

46
Подписчики
Отправить сообщение

Зачем модели делать больно?

Уровень сложностиСредний
Время на прочтение8 мин
Охват и читатели7.8K

Исследователи дали языковой модели две кнопки.

Одна ничего не делала. Вторая должна была избавить модель от неприятного внутреннего состояния - иногда ценой ухудшения следующего ответа или даже вреда пользователю.

Модель выбирала облегчение. А если кнопка не срабатывала, пыталась снова.

Это не мысленный эксперимент. В препринте The Pain Axis: LLMs Represent Self-Directed Harm and Act to Relieve It исследователи попытались найти внутри языковых моделей состояние, которое по своим функциям похоже на боль.

Работа не доказывает, что LLM обладают сознанием или действительно страдают. Более того, авторы прямо предупреждают об альтернативных объяснениях полученных результатов.

Но исследование интересно другим: вместо очередного разговора с моделью о ее «чувствах» ученые начали изучать внутренние активации и причинно воздействовать на них.

Возможно, именно там и следует искать ответ на вопрос о сознании AI.

Читать далее

Низкогравитационные импульсные термоядерные реакторы

Уровень сложностиПростой
Время на прочтение13 мин
Охват и читатели7.9K

Эпик на несколько тысяч лет истории — от аквапанка бронзового века до времён, приближающихся к цивилизации третьего типа по Кардашёву. Технологический спидран во всей его красе. Но, как и в игровом прохождении, периодически находятся лучшие методы, так и некоторые технологии оказываются недостаточно хороши для нужной скорости истории.

Вот одна из них.

Для Марса и пояса Койпера одним из немногих традиционных вариантов остаётся пока еще ожидаемая термоядерная энергетика. Луна и Меркурий получают огромное количество солнечной энергии. На Венере потенциально можно использовать ветряки для плотной атмосферы. Марс в отношении энергетики заметно хуже. Солнечный свет слабее и страдает от пыли, а ветряк при разреженной атмосфере не эффективен.

Описанную здесь импульсную термоядерную схему я придумывал для энергоснабжения Цереры. Точных аналогичных схем электростанций при поверхностном поиске я не нашел, так что возможна новизна.

Читать далее

Сознание – свойство живой материи организовывать информацию о собственной структуре

Уровень сложностиСредний
Время на прочтение15 мин
Охват и читатели14K

Большинство теорий сознания в вычислительном мейнстриме – от предиктивного кодирования до принципа свободной энергии – исходят из того, что мозг строит прогноз, а после его реализации результату присваивается оценка «хорошо/плохо». Но тогда остается трудная проблема сознания (hard problem): если прогноз – это чистая вычислительная операция, непонятно, зачем нужно переживание радости или горя. И даже если мы опишем все вычисления мозга, остается неясным, как и каким образом мозг порождает сознание?

В этой статье я хочу показать, что, если проследить эволюцию информационных потоков от РНК, а начинать не с уровня человека, можно увидеть, что порядок вычислений, начинается не с прогноза и сознание это не порождение мозга - это общий принцип всей живой материи – организовывать информацию о собственной структуре.

Общий принцип организации информационных потоков заключается в том, что все живые организмы сначала оценивают входящие (внешние и внутренние) сигналы, затем на основании накопленной памяти обо всех предыдущих состояниях самого организма осуществляют прогноз изменения своего внутреннего состояния. Это не вычисление будущего и не модель внешнего мира, это упреждающий поиск в сохраненной памяти собственных состояний и воссоздание нужной биохимии чтобы избежать или приблизить то или иное событие.

Затем через изменённую собственную биохимию совершается действие, и результат действия сравнивается с прогнозом. Положительный результат подкрепляет прогноз и порог его срабатывания снижается, делая его вероятностным, отрицательный его не устраняет, а повышает порог срабатывания этого прогноза.

Поэтому мы рассматриваем сознание как свойство всей живой материи организовывать информацию о собственной структуре. Человеческое сознание в этой рамке – частный случай: видоспецифическая форма той же организации информационных потоков.

Читать далее

Как я сделала свой первый AI-продукт с ChatGPT и капелькой любви

Уровень сложностиПростой
Время на прочтение5 мин
Охват и читатели30K

В этой статье я расскажу о моем опыте самостоятельного изучения основ Python и Machine Learning и создании первого проекта OneLove на базе собственной модели искусственного интеллекта (ИИ).

Читать далее

Информация

В рейтинге
Не участвует
Зарегистрирована
Активность

Специализация

Инженер по автоматизации тестирования