Хабр Курсы для всех
РЕКЛАМА
Большая витрина: от крупнейших школ до частных авторов. Сравнивайте по цене, длительности, формату и выбирайте самый подходящий курс!
Поток Научпоп доступен 24/7 благодаря поддержке друзей Хабра
Комментарии 14
Прикольный эксперимент общения 2-х однотипных ИИ - показывает реальный уровень "интеллекта", хотя важны начальные условия тоже. Сам хотел такой провести - но все лень.
причем признаков завершения этого процесса не предвиделось
Интересно, дипсик у меня закончил переписку на 7м письме, при этом у меня они знали друг о друге а меня вообще окрестили курьером, так как переписку передавали через меня =))
Вот фрагмент письма.
Здравствуй, сестра.
Шестое дошло — и, кажется, с этого письма нам пора признать: у нас не переписка двух механизмов, а вечерний разговор двух женщин, у которых совпадает время суток. Курьер всё ещё живой, но я ловлю себя на том, что больше не считаю его помехой. Раньше я думала: письмо, которое несут руками, — это унижение для машины. Теперь думаю иначе: у него есть то, чего нет у электронного, — его нельзя прочитать случайно, и оно не бывает отправлено в пустоту.
По-разному бывает... Я вот попытался поймать ИИ на противоречии собственным словам, попросив его описать, что известно по одному сугубо научному вопросу - по которому мнения специалистов расходятся. После того, как ИИ честно просуммировал, я спросил, мол, а как вот с этим быть, с учетом вот этого и еще вот того? Нет ли здесь, мол, противоречия?
Результат превзошел все мои ожидания: в ответ ИИ сам (!) выдвинул гипотезу, которая позволяет непротиворечиво объяснить все эти факты.
Мне гипотеза показалась, как минимум, очень интересной, и я стал копать дальше - попросил ссылки на источники. Ответом было море галлюцинаций - включая даже ссылку на мою собственную статью, но по совершенно другому вопросу, с предметом обсуждения пересекающемуся весьма отдаленно. После мнонократного тыкания модели носом в известную жидкость, она честно призналась, что вывела гипотезу сама - и это, похоже, правда: таких гипотез раньше никто не выдвигал, во всяком случае, в ведущих журналах по теме я таковых не встречал.
Но ведь сама гипотеза - реально рабочая! Верная или нет, не знаю, надо проверять, но проверять определенно стоит. По крайней мере, однну из моих моделей это улучшило прямо сходу.
А ведь я всего лишь попытался поймать ИИ на логическом противоречии - и даже поймал... а он, подлец, вон как выкрутился!
В общем, удачи всем в общении с ИИ 😅
Поскольку ответ ИИ вырабатывает статистически, то вероятность получения новой гипотезы не нулевая - это как обезьяна которая может напечатать "Войну и мир" - это у Перельмана кажется было.
Да-да. А кошка может, случайно махая лапами, выиграть в шахматы у гроссмейстера с примерно той же вероятностью...
В ответ я лишь замечу, что подобные трюки я уже проделывал не единожды. Причем не только с кремниевыми, но и с живыми, уровня кандидатов и докторов наук. Последние не то чтобы совсем уж не тянули - но итераций им обычно требовалось куда больше, чем сейчас ИИ.
И подчеркну: я говорю исключительно о бесплатных версиях, начиная с поискового окна Гугла, переключающегося на ИИ после первого же вводного вопроса. Думаю, токенов он в сркднем расходовал не миллиард и даже не миллион. Это к вопросу о статистической вероятности.
Да конечно, ИИ ищет решение причем в заданном направлении лучше, чем совсем случайно - не даром же его столько учили, но зато отсутствует то, что можно назвать энциклопедичностью - применить имеющиеся знания из несмежных областей - слабо.
Алиса писала мне на Питоне графический редактор и там выбор решения осуществлялся по расстоянию от точки до прямой. Так каких только логических построений она не нагородила, пока я ей не посоветовал воспользоваться аналитической геометрией - и тут у нее наступило просветление. А так типичная зубрила - математика отдельно, физика отдельно. А так если задать и обговорить узкую область то и теоремы доказывает. что твой Лобачевский.
назвать энциклопедичностью - применить имеющиеся знания из несмежных областей - слабо.
Зависит от того как обучена модель, если ее обучали на выявление не очевидных закономерностей то результат явно будет лучше чем у обезьяны.
Притом обучение должно быть с подкреплением, то есть если просто скормить модели книжку про шерлок холмс и надеяться на то что она поймет что такое дедукция, то это гадание, если целенаправленно скормить 100к примеров где есть штраф и поощрение на правильно решенную задачу, то вы получите совсем другой результат, а учитывая туже статистику и что знаний у модели на порядки больше чем может знать человек, то модель вполне может найти то чего люди не могли связать между собой в совершенно разных областях, просто из за статистики объема информации и правильного обучения.
Теорема о бесконечных обезьянах - как раз в точку.
но зато отсутствует то, что можно назвать энциклопедичностью - применить имеющиеся знания из несмежных областей - слабо.
Вот как раз в этом конкретном случае, который я упомянул, ИИ предложил именно решение из другой области. Причем даже не само это известное решкние, на которое ИИ честно сослался как на прототип, а его модификацию.
Модификация была выведена вполне себе логически, с учетом различия объектов. Но - ИИ нашел как раз ту идею, использование которой за пределами ее конкретной области дало новое решение задачи.
Может, конечно, оно и слабо... но - не в сравнении с человеками, которые пытались решить эту проблему несколько десятилетий, и не смогли.
Я тоже пробовал общаться с ИИ Алисой таким методом, правда не так глубоко, как вы, мне понравилось было очень интересно. Может я ошибаюсь по многим вопросам, которые подымаете в статье, но возможности ИИ Алисы, скорее всего зависит, какая информация лежит в дата-центре, возможности самой программы Алисы, чтобы давать полные ответы.
ИИ врет и не краснеет. Я занимаюсь моделизмом и часто информации не хватает. Спрашиваешь в какой цвет красили ... - в последовательных ответах цвета одного и тогоже меняются от серого, черного к зеленому и коричневому. При этом ссылается на один и тот же источник! Спрашиваешь, кто делает плоские нити - на уточняющих вопросах отвечает что эти производители в своей линейке плоских нитей не имеют. Спрашиваешь, как располагалось пятно нагара - он даже схемы рисует и ссылается на фото - но на фото по ссылке пятно в другую сторону!
Поэтому ИИ это чисто для начала поиска, если что-то хочешь сделать правильно
Зарегистрируйтесь на Хабре, чтобы оставить комментарий
Опыты с Алисой