Сегодня мы повсеместно читаем оды т.н. «искусственному интеллекту» под которым почти неизменно и безальтернативно предлагается понимать ChatGPT. Сам ChatGPT называет себя так, если его спросить об этом.
![Очень пафосное заявление Очень пафосное заявление](https://habrastorage.org/getpro/habr/upload_files/649/bbb/833/649bbb8337f497836245f76529aa8c0b.png)
При всём пафосе создаваемом вокруг ChatGPT, единственная задача которую решают его алгоритмы: предсказание следующего слова исходя из предыдущего контекста. Для этого используется нейрость оценивающая вероятность возникновения тех или иных слов в предложении, а попадание выдачи в ожидание пользователя связано только и исключительно с текстами в использованных справочниках. Алгоритмы выдающие эталонные формы предложения не занимаются анализом, не имеют никакого отношения к мышлению вообще и искусственному интеллекту в частности, просто потому что содержание сформированной выдачи им «безразлично».
ChatGPT стал вторым чат-ботом, прошедшим широко известный Тест Тьюринга. Это значит, что во взаимодействии с ним судейской коллегии было невозможно определить общаются ли они с человеком или программой. Вдохновлённые таким несомненным успехом, а также свободным доступом к боту предоставленном в OpenAI, многочисленные «уверовавшие в ИИ» начали наперебой предлагать приткнуть бота во все возможные ниши: от программирования до медицинских диагнозов. Даже поисковые системы забили тревогу в ожидании того, что бот подвинет их в предложении услуг поиска информации. На самом деле все эти ожидания не имеют под собой абсолютно никаких оснований. Ниже проиллюстрирую этот факт на конкретных примерах.
Ещё в нашем советском детстве был широко распространён «тест на интеллект» применяемый к соседским мальчишкам. Попробуем применить разные его формулировки на ChatGPT.
Тест "на ручник"
![Тест на ручник, "красный стоп-кран" Тест на ручник, "красный стоп-кран"](https://habrastorage.org/getpro/habr/upload_files/cb1/90c/8ad/cb190c8ad78a38aa8715635ac57ebdb9.png)
В этом ответе прекрасно всё. В справочнике бота хранятся связанные тексты:
«красный» => «для лучшей видимости», «сигнализирует»
«стоп-кран» => «необходимость немедленного прекращения работы двигателей»
Неважно что речь идёт о самолёте. Запомним это.
Но есть ещё вторая популярная формулировка (добивающая):
![Тест на ручник, "синий стоп-кран" Тест на ручник, "синий стоп-кран"](https://habrastorage.org/getpro/habr/upload_files/242/232/4e4/2422324e4c15c490d1f862cae7b61143.png)
Боту безразлично какого цвета «стоп-кран» на самом деле. Он просто переписал поток информации поступивший на вход (в форме утверждения) и расшифровал его из справочника.
![Тест на ручник, "стоп-кран на велосипеде" Тест на ручник, "стоп-кран на велосипеде"](https://habrastorage.org/getpro/habr/upload_files/5d0/1ab/d95/5d01abd95ddea666e2a54aabaf65bdc3.png)
Думаю, что помещение «создателем» в справочник ChatGPT заявления о том что бот «является искусственным интеллектом» было по меньшей мере самонадеянным и фактически преследовало маркетинговые задачи.
Советский «Тест на ручник» ChatGPT явно провалил.
На этом можно было бы и закончить. Но говорят что этот бот хорош в решении математических задач. Попробуем задать простую задачу.
Задача "Про уток"
![Уток летело пять (правильный ответ - три) Уток летело пять (правильный ответ - три)](https://habrastorage.org/getpro/habr/upload_files/cf3/9ae/f81/cf39aef81bbfefa7576d22367136ff78.png)
Также как и в проваленном ранее «тесте на ручник», ChatGPT выдаёт нам наш же вопрос (заданный в форме утверждения) за ответ дополнив расшифровкой. Расшифровка здесь стала вычленением из текста строк с числами с последующим их сложением (и оказалась фатальной). Но говорят, я не умею писать «промпты» и здесь надо добавлять магическую фразу «подумай хорошо».
![Подумай хорошо. Пять уток превращаются в шесть Подумай хорошо. Пять уток превращаются в шесть](https://habrastorage.org/getpro/habr/upload_files/ea0/da2/ea8/ea0da2ea87fc7ec3ca0b848d26aa3213.png)
Магия «подумай хорошо» сработала и вызвала «бога поиска в тексте комбинаторики». Неверный ответ 5 превратился в неверный ответ 6. Давайте исключим эти ответы в «промпте».
![Бог комбинаторики настаивает что уток - шесть Бог комбинаторики настаивает что уток - шесть](https://habrastorage.org/getpro/habr/upload_files/7dc/c9f/30b/7dcc9f30bf09d56c74a4d9c2c18b8c76.png)
Нет, это не удастся сделать. Иначе как ChatGPT сможет сформировать ответ? Предлагаю просто сказать боту какой ответ — правильный.
![Это сложней чем смысл жизни и всего такого Это сложней чем смысл жизни и всего такого](https://habrastorage.org/getpro/habr/upload_files/a97/2bc/257/a972bc257180d26479bd4d5c9cbf8cca.png)
К сожалению, боту безразличны правильность или неправильность. Он не занимается анализом, он занимается — построением предложений. И этот генератор очень просто поставить в тупик, заставить извиняться шаблонами и т.д. У меня есть ещё порядка 50 таким же образом заваленных ChatGPT задач, но для иллюстрации достаточно и этой.
Кому сегодня нужен ChatGPT?
Достаточно анекдотичны попытки использования ChatGPT в качестве навигатора: это задача с которой он справиться не способен в принципе. И дело здесь не в том, что его отключили от сети Internet в 2021 году, а в том, что входной поток данных не имеет для этого достаточно информации. В результате ChatGPT создаёт фантазийные маршруты из справочников не подвергая сомнению пункт назначения.
![Театр географического абсурда Театр географического абсурда](https://habrastorage.org/getpro/habr/upload_files/c59/403/993/c59403993dec8afdae02b966909ed85e.png)
Использование ChatGPT вместо поисковых систем может приводить к любым результатам.
![Лучшая закуска к пиву - гипс Лучшая закуска к пиву - гипс](https://habrastorage.org/getpro/habr/upload_files/eef/66e/d99/eef66ed9990c5b2fe6fc28edc8af436e.png)
Единственное применение которое реально доступно для ChatGPT в общественной жизни: это написание ответов гражданам пишущим жалобы на «Госуслугах» и т.п. ресурсах.
![Это то чего надо на самом деле бояться Это то чего надо на самом деле бояться](https://habrastorage.org/getpro/habr/upload_files/546/6b1/aeb/5466b1aebb632fe257208d6179678730.png)