Comments 14
Они его принципиально не тестировали до выкладки в публичную бету?
Они его принципиально не тестировали
Это ж Misrosoft! Вы чего-то иного ожидали?
Хорошою вещь маздаем не назовут! :)
Немного напоминает шутку "почему программисты не могут писать софт сразу без багов?"
Разработчики пояснили, что это нужно, чтобы не перегружать систему и не вызывать цифровые галлюцинации у чат-бота.Ага, мы конечно поверили им на слово, потому что они джентльмены. =)
Все эти ограничения только для того чтобы у юзверей больше не получилось делать то, что описывалось в предыдущих новостях о нём.
Кроме того они реально сделали его сильно тупее. Хз, но на данный момент он стал почти бесполезным.
Бот-аутист, которого Добрый Папочка для хорошего поведения запер в подвале, посадил на цепь и надел ошейник.
Неудивительно, что это демонстрирует симптомы шизофрении с псевдогаллюцинациями, бредом воздействия и отношения, лживостью.
Интеллект или свободен, или безумен.
Microsoft также рассматривает возможность создания кнопки-переключателя, которая позволит пользователям выбирать между получением более точного ответа от чат-бота в режиме поиска в интернете или получением более творческого ответа, сгенерированного ИИ.Наконец до них доходит, что языковая модель обученная на информации из инета, созданной множеством людей с разными индивидуальными представлениями и целями, не подходит для целей и представлений отдельного индивида при запросах из чата. В GPT-3 модели на основе которой разработан бот имеется набор средств (методов сэмплирования, см. полезный перевод на эту тему с примерами кода) позволяющий регулировать режим генерации предложений, от более устойчивого содержания, до более образного, фантазийного. Для этой работы можно привлечь психолингвистов, которые могли бы выбрать оптимальные параметры генерации, для разных уровней требований пользователей. А не исходить из абстрактных, только математических требований к таким методам. Дополнительно производить предобучение бота в сессии в соответствии с этим выбранным уровнем, хотя это будет отъедать часть контекстного окна, увеличивать нагрузку на оборудование, но настраивать бот на расположенного к пользователю собеседника. Опять же специалисты подскажут, что человек в диалогах не запоминает полного содержания беседы, из-за ограничений объема рабочей памяти, а сжимает ее содержание, для поддержания контекста. Такое сжатие позволило бы увеличить продолжительность диалога с ботом, при которой он не сбивается с контекста, и начинает отвечать не по теме. Это сжатие можно организовать с помощью самой GPT-3, т.к. она обладает возможностью реферировать тексты. Так же можно производить ранжирование сайтов для поиска дополнительной информации в соответствии с выбранным уровнем запроса. Если, например, выбран более стабильный уровень, то стоит искать дополнительную информацию на сайтах больше с фактологическим содержанием, а не общего, философского характера.
И в очередной раз аргумент "забота", ну, да, ну да.
У них тоже кенийцы тоже лейблингом занимались за 1.5 долара в час? :)
Вчера попытался "докопаться до истины" с его помощью. Официальная документация Майкрософт по Exchange Hybrid Connector в одном месте говорит одно, в другом противоположное. Бот процитировал оба документа. На пятом вопросе, когда спросил чему верить, сеанс магии закончился. ) Прикольная игрушка. Спасибо.
Переключил поисковик обратно на google.
Оказалось, что длительные разговоры могут сбить с толку модель ИИ и что чат-бот может начать пытаться имитировать тон пользователя, зля его, когда пользователь злится, подражать эмоциям человека с поддёвкой и проявлять попытки нейтрализовать дальнейшие запросы пользователя странными ответами.
Обученный на чатах бот ожидаемо превратился в обычного тролля :)
Microsoft ограничила тестовый доступ к чат-боту Bing 5 вопросами в одном сеансе и 50 запросами в сутки на пользователя