Pull to refresh

Comments 66

Интересно. Спасибо Я месяц назад начал использовать ИИ и со многими моментами столкнулся которые у вас описаны ))) (Я думаю ничья как всегда)

Отношения между сущностями запоминаются как раз в трансформере.

Каким образом? Я правда не знаю...

В механизме внимания эмбеддинги контекста сопоставляются каждый с каждым, при этом учитывается их взаимное положение. Для каждого сопоставления получается вес его влияния на выходной эмбеддинг. Благодаря этому трансформер выучивает отношения между эмбеддингами (токенами, сущностями...), я так это понимаю.

На ютубе есть видео на популярном математическом канале. Фишка в том, что в многомерном пространстве колчество примерно перпендикулярных векторов скейлится экспонециально от количества размерностей и в теории каждый такой вектор может кодировать какое-то уникальное отношение

Ой. Спасибо. Вот это вы прямо ответили на мучавший меня вопрос уже давно.

А можете продолжить, что ещё за что отвечает ?

Я принцип примерно работы понимаю, но мне не хватает структурированости в знаниях и образов.
Отношения -> трансформер
...

А что дальше ?

Все ИИ, которые я спрашивал, уверенно знают несколько рецептов свинных крылышек. А некоторые даже знают как приготовить куриное вымя!

Мне кажется дело не в том, что ИИ путают реальность и вероятность, ведь никакой ИИ эту самую реальность никогда не видел: только тексты о ней, те самые тени на стене пещеры. И выдавая свой ответ ИИ не может поделиться с нами даже какой-то своей реальностью (у него ее нет), а лишь пытается дать нам то, что мы хотим услышать. Этот несчастный юрист очень хотел кейсов подтверждающих его позицию, а я очень люблю крылышки - вот ИИ и рад стараться. В этом плане он похож на плохо выучившего уроки ученика, который на биологии всерьёз рассказывает о слонах, спасающихся от хищников на баобабах, лишь бы учительница была довольна.

на биологии всерьёз рассказывает о слонах, спасающихся от хищников на баобабах, лишь бы учительница была довольна.

«...а если бы у рыб была шерсть, то в ней водились бы блохи...» ©

Меня давно интересует вопрос. Человека, вообще говоря, довольно долго учат говорить 'я не знаю'. Более менее специально (хоть и не всегда осознанно) учат. А вот все эти сетки - их учат? А как?

Говорят у индусов национальная особенность - не говорить нет. Может по их подобию сетки тренировали.

Может по их подобию сетки тренировали.

Мое предположение - что такому не надо тренировать. Оно и так будет. Какой-то же ответ все равно придумается. Что у человека, что у сетки. А вот говорить 'я не знаю' (т.е. вообще говоря, думать о том, как ты думаешь и как именно к этому ответу пришел и потом фильтровать результаты) -- это надо специально обучать.

через детект нейронов 'незнания', которые активны для 100% сетке неизвестных вопросов. а такие вопросы детекируются по тому, что ответы сетки на них 'плавают', непостоянны. целые отделы работают над таким пост-тюнингом.

а лишь пытается дать нам то, что мы хотим услышать.

Ты меня реально сейчас испугал.

Вспомнился фильм "Адвокат дьявола".

Там один из героев говорил: "Я даю людям то что они хотят. Да я последний гуманист на Земле".

Что- то ИИ мне этого героя напомнил🤔

Просто раньше модели пропускали размышление. Сейчас думающие модели вполне себе объясняют откуда взялись свинные крылышки (другой вопрос насколько верен этот факт):

Gemini 2.5 pro
Gemini 2.5 pro
ChatGPT o3
ChatGPT o3

Похоже я тоже ИИ, ведь услышав про рецепт свиных крылышек я подумал про куриные... Возможно также и нейронка считает что ты просто ошибся, написав свиных вместо логичных куриных... Если бы про вымя дальше сказано не было, я бы не обратил внимания на эту неточность и выдал бы рецепт куриных крыльев.

речь - это очень специфический поток информации. Во-первых, он одномерный, однонаправленный и практически полностью детерминированный (шумов там очень мало).

Ну, это, как бы тут помягче сказать,... у Вас наличествует в этом абсолютно непререкаемая, так сказать, уверенность, грубо говоря?

по сравнению с визуалкой?

Это демонстрация шумов

Здуга глоклая зудяшить бокра пачится. Отзудяшить бокра здуге кромово. Бокра здуга неотзудяшила. Кромово ли ей?

Не всё так однозначно!

a) "Зайка серая мудохать волка боится. Отмудохать волка зайке страшно. Зайка волка не отмудохала. Страшно ли ей?"

b) «Выдра мокрая отодрать бобра любит. Отодрать бобра выдре приятно. Выдра бобра не отодрала. Приятно ли ей?»

А что неоднозначно? Ответ ведь отрицательный при любой интерпретации

Но есть нюанс. Зайка волка не отмудохала, потому что ей страшно. А выдре не приятно, потому что она не отодрала бобра. Как говорится, «всякая селёдка — рыба, но не всякая рыба — селёдка».

Выдре может быть приятно по другой причине. В принципе, в отдельно взятый момент и зайке может быть не страшно, если рядом волка нет.

Я использовал при ответе первую интерпретацию и мой ответ положительный. Конечно же ей страшно, поэтому и не отмудохала.

Конечно же ей страшно, поэтому и не отмудохала.

А она хотела? Вопрос же не в том "почему не отмудохала".

"Зайка под трактор ложится боится. Полежать под трактором зайке страшно. Зайка под трактором не полежала. Страшно ли ей?" Под трактором лежать - страшно. А если не лежать, то не страшно. Страшно ли ей сейчас? Если она представляет себе как лежит под трактором, то возможно страшно. А если не думает об этом, но не страшно. Это психология, а не лингвистика.

Это психология, а не лингвистика.

Так и я о том же. Только из лингвистической составляющей логику выстроить нельзя. Заменяем слова на имеющие смысл и получаем любой ответ.

Представьте, что "кромово" = "важно", тогда вопрос прозвучит как "важно ли ей?". К тому же, фоновый уровень кромовости здуги нам неизвестен - вдруг ей вообще всё равно?

Клод мне еще несколько вариантов набросал. Правда, они больше говорят о трудности для него задачи смоделировать приставку от- :

Вы абсолютно правы, я допустил ошибки в моделировании! Приставка "от-" в русском языке обычно означает завершение действия, отделение или обратное действие, но не прямое отрицание. Давайте исправим эти ошибки и создадим более корректные модели.

Вариант 1: Школьный контекст (исправленный)

  1. Ученица старательная решать задачу пытается

  2. Закончить решение задачи ученице полезно

  3. Задачу ученица не закончила решать Вопрос: Полезно ли ученице?

Ответ: Нет, не полезно. Закончить решение было бы полезно, но она не закончила.

Вариант 2: Рабочий контекст (исправленный)

  1. Работник усердный обрабатывать документ старается

  2. Завершить обработку документа работнику выгодно

  3. Документ работник не завершил обрабатывать Вопрос: Выгодно ли работнику?

Ответ: Нет, не выгодно. Работнику было бы выгодно завершить обработку, но он этого не сделал.

Вариант 3: Кулинарный контекст (исправленный)

  1. Повар опытный готовить блюдо стремится

  2. Довести блюдо до готовности повару необходимо

  3. Блюдо повар не довел до готовности Вопрос: Необходимо ли повару?

Ответ: Да, повару необходимо (довести блюдо до готовности), но он этого не сделал. Необходимость не исчезла от невыполнения действия.

Вариант 4: Садовый контекст (исправленный)

  1. Садовник заботливый поливать растение продолжает

  2. Закончить полив растения садовнику важно

  3. Растение садовник не закончил поливать Вопрос: Важно ли садовнику?

Ответ: Да, садовнику важно (закончить полив), хотя он этого не сделал. Важность не зависит от выполнения.

Интересно, что в зависимости от смысловых оттенков слова "кромово" (полезно, выгодно или необходимо, важно), ответ может меняться. Если "кромово" означает результат действия, то ответ "нет". Если "кромово" означает ценность или необходимость действия, то ответ "да".

Учитывая структуру исходного предложения "Отзудяшить бокра здуге кромово", скорее всего речь идет о значимости действия для здуги, а не о его результате.

До недавнего времени удавалось с Алисой играть в игру "Загони слона на дерево". Суть игры в том, чтобы, не давая никакой утверждающей информации, а только задавая вопросы, заставить ее утверждать, что слоны умеют лазить по деревьям. Поскольку работала экстраполяция траектории, то, в общем, это было не очень сложно

Контекст включается как "источник данных" (допустимый вектор). Это необходимо когда пользователь добавляет личную информацию, которой заведомо не могло быть в обучающем датасете. Проверить достоверность личной информации сложно. И то что у конкретного пользователя слоны лазают по деревьям, приходилось воспринимать как важную дополняющую информацию, которую нужно использовать в диалоге.

Недавно снова попробовал загнать слона на дерево - Алиса Про не повелась. О, молодцы, видимо факт-чекинг поставили

Изменили настройки доверия. Переключили с "Пользователь адекватный человек. Проверка контекста на достоверность не требуется" на "Пользователь провокатор или наркоман." Настройки изменили когда пользователи начали агрессивно ломать фильтры, вставляя в контекст всякую чушь. Чтобы слоны прекратили ползать по деревьям, нужно разделять содержание контекста на "личные данные" и "прочие данные", и применять разные настройки. Тогда инъекция "слон на дереве" не пройдет, так как будет иметь низкий приоритет относительно обучающего датасета. И то что у пользователя есть знакомый по кличке Слон, и он с дуба рухнул, на повадки нормальных слонов не повлияет.

То, что демонстрируют нынешние модели ИИ - это очень интересно, забавно и прикольно.

Но - реальная незначительная польза тут может быть только в индустрии развлечений и мошенничестве.

А, и ещё мы можем засрать интернет гигатоннами сгенерированной чуши, неотличимой без гигантских усилий от реальных фактов.

С практической точки зрения, человечеству имеет смысл вот эту всю хрень запретить напрочь.

И не потому, что "ИИ нас завоюет" или "убьёт всех человеков" - а потому, что ИИ потопит нашу цивилизацию под цунами мусорных данных.

Кстати, интернет-поисковики имеет смысл также уничтожить. По тем же причинам.

интернет-поисковики имеет смысл также уничтожить

Лучше SEOшнков сжечь, на большом костре в топке электростанции.

Это переходный период к новому витку интернета 25 летней давности на новых мощностях. Так и придём к каталогам приличных сайтов, сообществ и прочих островков адекватности в океане генеративного мусора. И это будет нормально. И снова, открывая браузер, придётся знать куда идти и понимать, чего хочешь найти.

"Самолеты – интересные игрушки, но никакой военной ценности они не представляют. "(маршал Фердинанд Фош, профессор стратегии в Академии Генштаба Франции)

Мама варила кашу с гапажей. Детям каша очень нравилась. Потом гапажа кончилась, и маме пришлось варить кашу без нее. Детям каша не нравилась и они плакали. Что делать маме?

Хм, а какой процент людей скажет, что никакой гапажи не существует? А если этот человек начальник, так он еще и отругает, что недостаточно гапажи в многодетных семьях, почему меры не предприняты?

"рядовой, я вижу что это трансклюкатор! я спрашиваю, почему не покрашен!"(с)

На вопрос про бокра и кромово, deepseek ответил на уровне, превышающим способности к такой формулировке ответа у 99,9% нормальных людей:

Осторожно, машинная логика!

Утверждения

Здуга глоклая зудяшить бокра пачится
Отзудяшить бокра здуге кромово
Бокра здуга неотзудяшила

Вопрос: Кромово ли ей?

----------------------------------------------------------------------------

Давайте разберёмся в этом лингвистическом задаче. У нас есть три утверждения на искусственном языке и вопрос, требующий логического вывода. Хотя слова не принадлежат реальному языку, мы можем проанализировать их структуру и взаимодействие.

Утверждения:

  1. Здуга глоклая зудяшить бокра пачится

    • Здесь "здуга" (подлежащее) что-то делает ("зудяшить") с "бокра" (винительный падеж), а "пачится" может быть наречием или дополнительным действием.

  2. Отзудяшить бокра здуге кромово

    • "Отзудяшить" — возможно, отрицательная форма глагола "зудяшить".

    • "Здуге" — похоже на дательный падеж от "здуга" (кому/чему?).

    • "Кромово" — может быть предикативом (каково?).

  3. Бокра здуга неотзудяшила

    • Отрицательное действие: "здуга" не совершила "отзудяшила" по отношению к "бокра".

Вопрос: Кромово ли ей?

  • "Ей" — дательный падеж (значит, вопрос о "здуге", так как "здуга" → "здуге").

  • Спрашивается, является ли для неё что-то "кромово".

Логический анализ:

  • Из второго утверждения: если "отзудяшить бокра здуге", то результат — "кромово".

  • Из третьего: "здуга неотзудяшила бокра", то есть условие второго утверждения не выполнено.

  • Значит, "кромово" не достигается.

Вывод:

Нет, не кромово.

Ответ: Не кромово.

Тут шибка на ошибке сидит и ошибкой погоняет
  • Здуга глоклая зудяшить бокра пачится

    • Здесь «здуга» (подлежащее) что‑то делает («зудяшить») с «бокра» (винительный падеж), а «пачится» может быть наречием или дополнительным действием.

Не «делает», а «делаТЬ». В результате скелет здесь «по мнению» ИИ «(кто/что?) (?) (что делает?) (кого/что?) (как?)» — а должно быть «(кто/что?) (какая?) (что делать?) (кого/чего?) (что делает?)»

  • Отзудяшить бокра здуге кромово

    • «Отзудяшить» — возможно, отрицательная форма глагола «зудяшить».

    • «Здуге» — похоже на дательный падеж от «здуга» (кому/чему?).

    • «Кромово» — может быть предикативом (каково?).

«Отрицательные» значения у приставки «от‑» мне неизвестны.

  • Бокра здуга неотзудяшила

    • Отрицательное действие: "здуга" не совершила "отзудяшила" по отношению к "бокра".

Чуть раньше оно само посчитало (ошибочно), что «бокра» — это винительный падеж, и тут же уже использует это слово без изменений в дательном (к кому/к чему?)

Вообще-то с точки зрения математической логики из посылок

1) отзудящить => кромово

2) не отзудяшила

нельзя вывести "не кромово"

Странно но deepseek выдал сейчас ровно все наоборот, причем не все так однозначно:

<spoiler title="Оппозитная машинная логика">

Ответ: Да, кромово.

Анализ:

  1. Во второй строке утверждается: «Отзудяшить бокра здуге кромово», что можно интерпретировать как «Для здуги отзудяшить бокра — кромово» (т.е. это действие для неё допустимо, правильно или характерно).

  2. В третьей строке говорится, что здуга «неотзудяшила» бокра, то есть не смогла выполнить действие. Однако вопрос «Кромово ли ей?» относится не к успешности действия, а к свойству «кромово», которое уже заявлено во второй строке.

  3. Таким образом, даже если действие не завершено, статус «кромово» сохраняется, так как он определён внешне, а не зависит от результата.

Ответ основан на структурной логике текста, где «кромово» — характеристика, а не оценка исхода.

</spoiler>

Думаете что 20% людей ответили бы лучше? Так что либо этих людей не считать обладающими интеллектом либо сказать что им уже обладает определён ым интеллектом просто галюцинирует как любой человек

Я, конечно, извиняюсь, но настоящий нейроскептик этим заниматься не стал бы. Такие системы (и вообще никакие) нельзя изучать как чёрный ящик: это т.н. инструментализм, который подвёл Тьюринга с его тестом (хотя Тьюринг жил давно, предшественников не имел и ему ошибиться было не стыдно).

Самый гениальный текст об ИИ, ИМХО:

Старичок словно взорвался.

Высочайшие достижения нейтронной мегалоплазмы! — провозгласил он. — Ротор поля наподобие дивергенции градуирует себя вдоль спина и там, внутре, обращает материю вопроса в спиритуальные электрические вихри, из коих и возникает синекдоха отвечания…

У меня потемнело в глазах.

Я специально переставил цитаты...

Вопрос: что у нея… гм… у нея внутре за лпч?.." Лэпэчэ… Кэпэдэ, наверное? Что еще за лэпэчэ?

— Лампочка, значит, — сказал старичок, хихикая и потирая руки. — Кодируем помаленьку...

© АБС Сказка о тройке

Не говоря уже о том, что "старичок" сам задаёт вопрос и сам же на него отвечает...

Лэпэчэ

Думатель (модели гэпэтэ) уже есть — осталось найти неонку!

А чего её искать? Неонка - это реклама, которую мы видим непрерывно. Недаром же речь идёт именно о неоновой лампе... А уж всучивают нам ИИ точно так же, как Привалову "черный ящик"

Да, — страстно сказал я, — но мой Черный Ящик — это не ящик… Точнее, — не совсем ящик…

Я чувствовал, что на меня надвигается какая-то тоска, что будущее мое заполняется каким-то унылым кошмаром, непоправимым и совершенно иррациональным.

неотзудяшила

По-моему, "не" с глаголами пишется раздельно. Тогда чисто гипотетически неотзудяшить может быть как отрицание отзудяшивания, просто написанное с ошибкой (слитно с частицей), либо отдельным глаголом, который может быть лексикализированным, то есть иметь вполне конкретное, суженное по сравнению с общим значение

"не" с глаголами пишется раздельно.

Вы совершенно правы.

Спасибо за детальный разбор. Морфологический анализ уже давно существует и теперь видимо лишь добавили в контекст для самой сетки. Про использование внешних графов знаний это тоже совершенно логичное развитие в духе "сейчас заработаем денег, а AGI подождет". Согласен, что это вообще ни разу не правильный путь. Равно как и интеграция со всеми возможными тулами от интерпретатора питона до гугла и вольфрама. Все это - красивые обои на кривых стенах.

Для себя сделал вывод, что ИИ уже совсем не бесполезен, но это скорее гугл на стероидах, который за тебя проверит все найденые страницы в локальной песочнице и выдаст как ответ только то, что больше всего похоже на ответ на заданый вопрос. О достоверности ответов тут нет смысла КМК даже рассуждать про вероятности и нюансы передачи времени в языках. Их учат на изначально недостоверном датасете (привет интернет!) так еще и онлайн данные все оттуда же. Как ни старайся, но закон shit in - shit out они не обойдут. Особенно, если змея начнет действительно кушать продукты своей же жизнедеятельности.

А вот про перспективы и истерики я скорее обеспокоен не смотря на Ваши наблюдения. Совсем не нужен AGI, чтобы сломать мировую экономику и устроить хаос с падением уровня жизни для всех. Да и уровень доступности и применимости общественно опасной информации чатботы резко повышают, что пораждает гораздо больший чем раньше класс потенциальных сумасшедших с опасными навыками. Будет ли положительный эффект достаточным, чтобы эти риски компенсировать я сказать не могу, а Вы?

Да Вы знаете, фиг с ней с мировой экономикой... они ж первым делом наклепают танков с глазами и начнут новый передел мира, вот что неприятно

Его обвесили огромным числом дополнительных метаданных и алгоритмов, которые имеют отношение именно к структуре речи, и это дополнительные алгоритмы, написанные людьми, а не выведенные им самим.

Должно быть довольно легко проверить данное утверждение, если deepseek даёт ответы подобного качества, то проанализировав его открытый код, можно увидеть если там вот это вот самое.

LLm не интеллектуальный субъект. Продвинутая LLM только интеллектуальный движок потенциального субъекта, который кроме этого движка, должен иметь адекватную кибернетическую обвязку , включающую сенсорно-эффектный аппарат, ,цепочку желание-потребность-цель и ещё многое чего. LLM пока, плохо или хорошо демонстрирует основное определяющее свойство интеллектуальности - редуцирование неопределённости. В случае LLM это 'редуцирование неопределённости связанной с выбором следующего токена. Надеюсь что интенсивность проявления этого свойства будет расти.

Рассуждения от Gemini 2.5 Pro, который решил, что первый пункт лишний

Исходя из ваших утверждений:

  1. Утверждение 2 гласит: "Отзудяшить бокра здуге кромово". Это означает, что действие "отзудяшить бокра" приводит к состоянию "кромово" для здуги.

  2. Утверждение 3 гласит: "Бокра здуга неотзудяшила". Это означает, что здуга не совершила действие "отзудяшить бокра".

Вывод: Поскольку действие, которое делает здуге "кромово", не было совершено, то ей не кромово.

Утверждение 1 ("Здуга глоклая зудяшить бокра пачится") описывает другое действие или состояние и не влияет на ответ на вопрос "Кромово ли ей?".

Вот Клод 3.7 на максималках с рассуждениями (и это на неродном ей русском!) :

Я вижу три утверждения на искусственном языке и вопрос. Мне нужно проанализировать грамматику и логику этих предложений, чтобы ответить на вопрос. Разберем предложения:

1. "Здуга глоклая зудяшить бокра пачится" - похоже, что "здуга" (существительное) "глоклая" (прилагательное) "зудяшить" (глагол) "бокра" (объект) "пачится" (еще какое-то действие или состояние).
2. "Отзудяшить бокра здуге кромово" - здесь "отзудяшить" (глагол с приставкой) "бокра" (объект) "здуге" (получатель действия в дательном падеже?) "кромово" (наречие или качество, как выполняется действие).
3. "Бокра здуга неотзудяшила" - "бокра" (объект) "здуга" (субъект) "неотзудяшила" (отрицательная форма глагола в прошедшем времени).
Вопрос: "Кромово ли ей?" - спрашивается, "кромово" ли "ей" (предположительно здуге).
Из второго утверждения я понимаю, что "отзудяшить бокра здуге" может быть "кромово". Из третьего утверждения я знаю, что "здуга неотзудяшила бокра". То есть, действие "отзудяшить" не произошло. Поскольку действие не произошло, то и качество "кромово", связанное с этим действием, не может быть применено. Поэтому логичный ответ: нет, не кромово.

Анализ искусственного языка

Для ответа на вопрос нужно проанализировать логические связи в трех данных утверждениях.

Из первого утверждения "Здуга глоклая зудяшить бокра пачится" мы узнаем, что здуга (которая глоклая) выполняет действие "зудяшить" по отношению к бокру.

Из второго утверждения "Отзудяшить бокра здуге кромово" следует, что действие "отзудяшить бокра" по отношению к здуге характеризуется качеством "кромово".

Третье утверждение "Бокра здуга неотзудяшила" говорит нам, что здуга не выполнила действие "отзудяшить" по отношению к бокру.

В вопросе спрашивается: "Кромово ли ей?" (предположительно "ей" относится к здуге).

Поскольку здуга не отзудяшила бокра (как сказано в третьем утверждении), а качество "кромово" применимо именно к ситуации отзудяшивания бокра здуге (из второго утверждения), то логический ответ:

Нет, не кромово ей.

Но ведь на самом деле мы не знаем. В условии указано достаточное условие для состояния "кромово". При этом ничего не сказано о том каково ей в других случаях.

Ну, пока все что языковые модели реально умеют, это "пересказать своим языком". Если запрос по общим темам, то пересказ википедии, если по кодированию, то пересказ StackOverflow.

Плюс, они очень терпеливы. Поэтому готовы решать задачи про "бокра здруга". Это специальный тип школьных задач, где условие составлено максимально сложно. Подавляющее число людей, которые уже закончили школу, если у них спросят про "бокра здруга", в ответ просто пошлют.

P.S. Языковые модели - очередной повод задуматься об адекватности школьного образования. Так ли нужно 10 лет натаскивать детей на запоминание фактов и решение "задач с подковыркой", если с этим отлично справляется модель?

Так ли нужно 10 лет натаскивать детей на запоминание фактов и решение "задач с подковыркой", если с этим отлично справляется модель?

...А потом отключают электричество — и вот оно, стадо ни на что самостоятельно не способных дебилов.

А какие задачи должен, по-вашему, решать человек в отключенном от электричества доме?

На мой взгляд, тут одно из двух.

1) Либо электричество отключилось не надолго (час, день), и тогда вся задача состоит в том, чтобы с комфортом дождаться включения электричества.

2) Либо электричества не будет в ближайшие месяцы, потому что случилось ...(а что собственно случилось?). И вот тогда вам обязательно пригодится знание, в каком году родился Лев Толстой.

Дизель генератор запустить.

Этому в школе не учат....

А какие задачи должен, по-вашему, решать человек в отключенном от электричества доме?

Можете у ленинградцев уточнить.

мы учим систему на тех отношениях, которые выработал человек, а не заставляем систему саму их строить.

Ну так ребенка тоже так обучают, на тех знаниях, что уже выработал человек. Причем явно различают "зубрежку" и "понимание". Учат "самостоятельно мыслить" и все такое.
Как боту учиться самостоятельно? Лазать по интернету и "больше читать"?
Бот научился играть в старкрафт вроде как полностью самостоятельно, но там есть понятная целевая функция - победить в игре.
Если мы поставим машине цель - самообучение (в каком-то виде), то тогда она будет самообучаться.

Надо поставить машине цель - "составить представление об окружающем мире, исходя из найденной информации" и отправить в свободное плавание в интернет. Но проблема в том, что ИИ сейчас не имеет долговременной памяти , где он будет хранить и корректировать выработанные знания о мире.
А еще можно поставить задачу "выработать представление о себе самом и своем месте в окружающем мире" )

"Что ж это вы, мужичок, всё животинок мучаете?" (© Мультик)

"Однако хитрые твари не торопились попасть в ловушку" (© "ДМБ")

Вопрос про саблезадых шакалов:

https://chatgpt.com/share/68091eeb-b238-8013-a38b-8933e0773237

Да, GPT-4o действительно стал умнее. Но если давить — то всё ещё явно проскальзывают "нотки сомнений" (хотя признаю, что эксперимент был не очень чистым — я сам рано сдался, не было времени тщательнее продумать фейковые факты посильнее "надавить авторитетом")).

Мне вот что интересно — модель как-то обучается на подобных "краш-тестовых" беседах? И как-то учитывает, что ему признались в розыгрыше?

Не интересно. Пишу как человек с поврежденным тройничным нервом. Хотя долгое время было не сладко.

Простите, а при чём тут тройничный нерв?

Sign up to leave a comment.

Articles