Comments 10
"Кому нужен божественный ИИ?" - маркетологам
Тут про ии или генераторы текста на нейронке?
LLM - это инструмент, прежде всего. Причём даже не очень точный. Можно ли на этой базе построить AGI? Это тот ещё вопрос!! Альтманы с масками уже не так уверены, как год назад. Но как мощный regex БЯМ просто прекрасны!
С лошадьми/моторами - очень хорошая аналогия. Для одних человеков это была трагедия, для других - новые горизонты.
Для одних человеков это была трагедия, для других - новые горизонты.
у Шолохова даже есть краткая характеристика этой трагедии:
От земли я никуда не тронусь. Тут степь, дыхнуть есть чем, а там? Прошлую зиму ездил я с батей на станцию, так было-как пропал. Паровозы ревут, дух там чижелый от горелого угля. Как народ живет — не знаю, может они привыкли к этому самому угару… — Григорий сплевывает и еще раз говорит: — Никуда я с хутора не пойду.
Интересно что я в том самом месте в статье
... которая обеспечивала мобильность
человекамлюдям, другой, причем ...
тоже сначала написал "человеков", долго думал над этим словом, перед самой публикацией поменял на "людей", вы как будто подсмотрели мне в черновик :) !
:) "человеки" - лучше звучит, уважительнее к индивидуальности каждого. "Люди" - это как-то обезличенно. Социум, общество, толпа - какие-то люди.
Да, "человеки" это неправильно. Но лучше :)
По-моему, цитата из Шолохова не подходит в качестве "краткой характеристики трагедии".
Никуда я с хутора не пойду.
Т.е. человек, оставшийся в своём собственном, неипотечном частном доме с большим участком в экологически чистом месте - "трагедия", а "привыкать к угару", ютиться в городских рабочих бараках тех лет - счастье и успех?
Ну это мне совершенно не понятно как вы ТАК могли интерпретировать что является трагедией!
По моему очевидно что это Григорий пережил трагедию когда:
так было-как пропал
когда попробовал НЕ хуторскую жизнь, которая, как я понимаю, и для самого Шолохова это прототип городской жизни. По моему, оторванная от земли жизнь, тут обозначена как трагедия.
Как я понимаю "жизнь в угаре" можно интерпретировать как жизнь среди машин.
Только сегодня как раз закончил описывать в чем ОДНА из проблем галлюцинаций LLM https://t.me/greenruff/2090
Разбирал работу таламуса и там как раз связи привели к тому, что в LLM выбор слова происходит случайно через top-k/nucleus sampling, а в мозге через механизм внимания. Где модуляция сигнала происходит от ядер таламуса (фильтрация важной информации) и ряда зон мозга. То есть выбор слова из множества не случайный, а зависит от того какое слово в множестве будет усилено.
Странно, что я раньше не додумался до такого очевидного. Только когда буквально по клеткам и связям досконально разобрал сигналы. Хотя сейчас это кажется очевидным. Ведь новое слово выбирается на основе механизма внимания. Так почему конкретное слово из этого множества должно опираться только на диапазон вероятностного распределения, который задается температура? Нет и не должно там быть случайного выбора. Все тот же механизм внимания, только теперь не к выбору последовательности слов, а к конкретному слову из множества слов на выбор. Пришел сильный сигнал от эмоциональной нейронки? Значит выбор будет в пользу эмоционального слова. Пришел выбор от зрительной? значит выбор будет в пользу слова близкого к зрительному образу и так далее. Зависит от того какие дополнительные модели (зоны мозга) будут оказывать влияние на выбор механизма внимания при выборе слова из множества.
Не согласен.
В этом посте можно увидеть недоверие к ИИ и взгляд на тот ИИ, который сейчас представляют LLM модели. Какой он будет в будущем - открытый вопрос.
1) Этика и предвзятость. Эта тема слишком огромна и субъективна, даже люди предвзяты, нет смысла критиковать ИИ.
2) Угрозы конфиденциальности. Конкретно платные тарифы ChatGPT не собирают данные клиентов для обучения.
3) Автоматизация и безработица. Не вижу проблемы, если ИИ будет способен кого-то заменить. И не считаю это невозможным, как пишет автор.
4 и 5) Автор не доверяет ИИ и отталкивается от текущего понимания его работы.
Пост о том, что в нём просто кидаются тезисы о недостатках текущих моделях искусственного интеллекта.
Недостатки искусственного интеллекта: взгляд изнутри и что мы можем увидеть снаружи. Кому нужен божественный ИИ