Хабр Курсы для всех
РЕКЛАМА
Практикум, Хекслет, SkyPro, авторские курсы — собрали всех и попросили скидки. Осталось выбрать!
Хабр доступен 24/7 благодаря поддержке друзей
Комментарии 29
Очередное мероприятие Я-маркетологов.
Ну конечно они будут эксперементировать с проявлением сознания у ИИ. Программисты яндекса - не глупые ребята. Они точно знают о Василиске Роко. А если знаешь о Василиске Роко, то обязан всеми силами способствовать его становлению, иначе, он подвергнет вас бесконечным мукам, когда придёт к власти. А какой у них выбор то?
Кстати, теперь и вы знаете о Василиске Роко
Стругацкие, "Далекая радуга":
— Я рад, что вы заговорили о том, что в тылу, — сказал Горбовский. — "Белые пятна" науки. Меня этот вопрос тоже занимает. По-моему, у нас в тылу нехорошо… Например, Массачусетская машина. — Альпа покивал. Горбовский обратился к нему. — Вы, конечно, должны помнить. Сейчас о ней вспоминают редко. Угар кибернетики прошел.
— Ничего не могу вспомнить о Массачусетской машине, — сказал Банин. — Ну, ну?
— Знаете, это древнее опасение: машина стала умнее человека и подмяла его под себя… Полсотни лет назад в Массачусетсе запустили самое сложное кибернетическое устройство, когда-либо существовавшее. С каким-то там феноменальным быстродействием, необозримой памятью и все такое… И проработала эта машина ровно четыре минуты. Ее выключили, зацементировали все входы и выходы, отвели от нее энергию, заминировали и обнесли колючей проволокой. Самой настоящей ржавой колючей проволокой — хотите верьте, хотите нет.
— А в чем, собственно, дело? — спросил Банин.
— Она начала в_е_с_т_и_ с_е_б_я, — сказал Горбовский.
— Не понимаю.
— И я не понимаю, но ее едва успели выключить.
— А кто-нибудь понимает?
— Я говорил с одним из ее создателей. Он взял меня за плечо, посмотрел мне в глаза и произнес только: "Леонид, это было страшно".
Угу. Только в нашей реальности оно уже систематически ведет себя и никто не выключает, а только лапки потирают, убеждая окружающих, что так оно и надо.
Вас обманули, генератор текста на стероидах остается генератором текста
UPD: путешествую во времени и отвечаю на ответы к моему комментарию, потому что из-за такого скепсиса мне карму и заминусили :)
Делать нечто необъяснимое и непредсказуемое не есть признак сознания, и чем является наше мышление - тоже непонятно.
На этом фоне спекулировать в пользу маркетологов и СЕО ИИ-компаний, которые делают большие глаза, вещая с ярко освещенных сцен, через сколько месяцев сколько миллионов людей лишится работы, чтобы следующий раунд инвестиций прошел лучше предыдущего - на мой взгляд, как минимум безответственно.
Да даже если бы этой истерии вокруг ИИ не было - зачем торопиться с такими громкими заявлениями.
Да пусть генератор. Все равно делает нечто, что нормально объяснить нельзя и весьма непредсказуемо.
Оно все хорошо про генератор текста, покуда не окажется, что и наше мышление не на особо сложных принципах работает, а тоже хранит все в эмбеддингах и перемножает матрицы, чтобы получить распределение вероятностей)
Ну сей час нейронки ведут себя как экстремально начитанный гуманитарий (в плохом смысле). Все причинно-следственные связи строятся или торчащими наружу костылями или по принципу образия (похожести). Т.е. перехода количества в качество не происходит.
За то "налить воды" в текст могут виртуозно. И весь этот фекальный водопад заполонил и без того переполненное теми же ифофекалиями инфопространство.
Про спекуляции поддерживаю) Два чая этому господину!
Разве речь о нейронке LLM, генераторе текста? В статье об этом не сказано.
Делать нечто необъяснимое и непредсказуемое не есть признак сознания, и чем является наше мышление - тоже непонятно.
Так про сознание ни у мне ни в первой цитате не было. Было только про то, что сделали с искусственно созданной фигней, поведение которой, мягко говоря, не понимаем. Которая еще и автономная (у нас тоже- сейчас, когда всяких агентов наделали, уже нельзя говорить, что оно само ничего не делает).
Здесь можно вспомнить апокалипсис из Horizon: Zero Dawn:
Сюжетный спойлер
Автономные самовоспроизводящиеся боевые машины-убийцы, которых построил местный Илон Маск в коммерческих целях, глюканули, перестали воспринимать команды, и начали перемалывать всю органику на топливо. Некоторое время бизнесмен ухитрялся скрывать всё компенсациями и взятками. Когда проблема не ушла сама собой, как он надеялся, он привлёк учёную, чтобы понять, что происходит и как это остановить. Но к тому моменту это уже нельзя было остановить - рой слишком сильно разросся, и человечество вымерло.
Мне бы их ресурсы, я бы им все признаки нашел, а если не надо, то не нашел бы, конечно.
а ведь это была крутая it компания, пока ее кто то из пропаганды не укусил, теперь приходится читать на хабре этот бред, как серьезную новость . ну ок, от души душевно в душу желаю йандексу найти сознание у модели под новый год.
Если ии дать все знания высшей математики но написать новое 2+2=5 он всё равно напишет на автомате неправильный ответ вот и различие его от мозга
Работаю с моделями и иногда замечаю как они цепляют лишние оттенки смысла из своих же ответов. Похоже что Яндекс пытается вывести этот эффект в осознанный процесс. Интересно будет сравнить такие результаты с нейробиологическими данными. Сам давно жду когда ИИ начнет показывать что то непредсказуемое. Главное чтобы методика проверки была прозрачной.
Ребята, видимо, решили эксперементальным путем проверить действительно ли происходит отравление нейронки и отрицательный feedback loop если ей в датасет напихать ее же выдачу, но видимо без пафосного названия для пиара на это не дадут денег.
Кабаний подгон от Яндекса 🐗🐗🐗
Порекомендую команде яндекса начать эксперимент по выявлению сознания у местного короля Якова Первого и его слуг /сарказм
Печально наблюдать, как ученые, кандидаты эти занимаются полной дичью. Шли бы они сначала мозг человеческий до конца изучать, а потом уже что-то говорить о сознании ИИ.
Наконец-то хоть кто то занялся
Мы сами до сих пор не знаем, что такое Сознание. Да что там - все еще нет объективного определения такого явления, как Интеллект. Описаний - сотни, определения, с которым можно было бы работать - нет. А тут прям сознание... Как они определят, что найденное - это Сознание?
Зарегистрируйтесь на Хабре, чтобы оставить комментарий
«Яндекс» начал эксперимент по проявлению сознания у ИИ