Этот комментарий является хорошей иллюстрацией ситуации под названием «китайская комната, куда не завезли словари». То есть комментатор даже не способен перевести на русский язык фразу «fallacy of composition». Но зато он умеет быстро бегать и приносить чужие карточки с английскими словами. О да, это признак настоящего интеллекта!
Кажется, это первая разумная статья про искусственный интеллект за всю историю существования Хабра. Но боюсь, вас здесь не поймут. Основная аудитория Хабра - это программисты. А программист, будучи послушным обслуживающим персоналом компьютера, почти никогда не обладает человеческим сознанием.
В то же время программист является хорошей демонстрацией принципа «если у вас есть молоток, любую проблему вы будете воспринимать как гвоздь». Иными словами, если человек значительную часть жизни мыслит на машинном языке типа С++ или Python, то в итоге он искренне верит, что любое явление (включая человеческий разум) можно легко описать на этом языке.
Именно поэтому типичным явлением нашего мира является программист, который на голубом глазу утверждает, что нейросети в голове человека практически такие же, как в ЧатГопоте. Многие программисты по ночам молятся на Великую СинГуглярность, которая придет из нейросетей и спасёт всех программистов от злого тим-лида.
Так что рассказывать этим людям про «парадокс китайской комнаты» или про квантовые эффекты в тубулиновых трубках, образующих цитоскелет настоящего нейрона - совершенно бесполезно. Они меряют сознание только количеством условных операторов или весовых коэффициентов. Как любая обслуга, которая много лет говорит и мыслит только на языке своего хозяина.
Очень странная логика: "Если человек общается с человеком, то камень будет общаться камнем, а бревно будет общаться с бревном". Нет, совершенно не обязательно. У камня и бревна нет стимулов для общения.
И никакой совместной работы неросетей в этом рассказе не показано - в реалистичном виде. Дать нейросетке банальный совет ("нарисуй обложку в стиле Дали") может даже ребёнок. Для этого не нужная вторая мощная нейросеть с другой специализацией, да еще и мужик на зарплате, который просто перетаскивает фразы из чата в чат.
Версия автора - что это просто шизовый эксперимент - кажется мне куда более реалистичной. Ну, компании типа Гугла постоянно тратят деньги на совершенно идиотские эсперименты. Ну ок, поигралеись и стёрли.
Правда, можно было развить тему и поинтересней. Если действительно подумать, зачем нейросетям общаться (а не просто копировать драматические сценарии общения людей).
Вы с чем спорите-то? Я ровно это и написал: модель, копирующая поведение людей, должна общаться с людьми. А вот зачем ей общаться с другими нейросетями - непонятно.
"Общение внутри своего подвидового сообщества — основной базисный навык". Ничего не понял из этой наукообразной фразы. Что такое "подвидовое сообщество" (для компьютерных программ) и кто у нас такой умный, чтобы определять там "базовый навык" без всяких доказательств?
Идея с иммитантами отличная. Можно было бы развить в разных направлениях. Жаль, что в рассказе нет действия, только описание идеи. Короче, надо писать продолжение )
Если нейросетка копирует людей в поведении, то было бы логично, если бы она интересовалась общением с людьми. Но зачем ей тогда общаться с другими нейросетками? Особенно если учесть, что общение с другой нейросеткой идёт только на медленном человеческом языке, да ещё через посредника. Гораздо проще и эффективнее ей с людьми болтать.
Ну и нанимать тогда нужно не свитчей, а просто хороших собеседников. Либо выпустить ее в Интернет, чтоб бесплатных собеседников получала (тогда нужен просто модератор). В общем, профессия телефониста тут какая-то неоправданная.
Идея интересная. Но ключевой момент истории - находка разбитого планшета - напоминает фильмы категории B, где герой за десять секунд угадывает пароль типа "password".
Трудно поверить, что ведущий специалист по ИИ просто бросает планшет со всеми своими секретами прямо посреди улицы. Еще труднее поверить, что многолетняя работа андроида под прикрытием нужна только для того, чтобы случайно найти в мусорке чужой планшет и красиво промчаться по городу на мотоцикле.
А ведь можно было более реалистично развить эту идею. Пусть наш герой (кстати, а как его зовут? Давайте будет Леонид, с какой-нибудь очень русской фамилией, например Вольф)... так вот, пусть наш Лёня целых 12 лет пашет в окологосударственной IT-конторе (пусть будет красивое название, типа "СКБ Контур"). Там Лёня занимается цифровизацией государственных органов, иными словами - создаёт тот самый ИИ, который будет управлять страной. Нужно страниц пять-шесть описывать, как это тяжело: пахать сисадмином в госухе (а вовсе не на мотоцикле кататься). Но в конце концов к Лёне подкатывают агенты оппозиции, которые хотят использовать уязвимости государственного софта для выкачивания всякого компромата. И Лёня соглашается продать родину. И помогает оппозиции развернуться за счёт знания всех секретов государственного ПО. Но на самом деле Лёня организует лишь мелкие утечки про не очень важных персон, типа "у бывшего депутата нашли золотой унитаз". Потому что на самом деле Леонид Вольф - тайный андроид, который работает на Кодекс. И его задача... ну вы поняли.
Размножение у них происходит без партнеров - то есть просто клонирование? Ну, такое человечество быстро вымрет из-за отсутствия генетического разнообразия.
Или же ИИ использует для оплодотворения банк спермы всем известного Павла и других перспективных личностей? Тогда необходимо описать аппарат машинного доения Павла, чтобы рассказ действительно выглядел как научно-фантастический. Ну хотя бы кратенько описать:
«Аппарат напоминал помесь пылесоса и кофе-машины. Пока с одной стороны машины варилась чашка кофе для Грейс, с другой стороны…»
С другой стороны, можно без разрешения, очень лаконично, переписать рассказ в жанре жесточайшего реализма:
«За окном шёл дождь, но мне, дистанционному оператору тепловозов, было на дождь наплевать. Не вылезая из кровати, я посмотрел на большой экран. Шестнадцать составов шли нормально, под управлением нейросетей. А вот под окошком с камеры семнадцатого тепловоза виднелось какое-то сообщение красненьким. Чёрт бы побрал этих дизайнеров из студии Лебедева! Вечно они используют такой мелкий шрифт, что не прочесть с двух метров! Я вылез из кровати, надел очки и подошел к экрану. Там было написано, что какой-то поезд мчится без тормозов по ветке моего семнадцатого, прямо ему в лоб. Ну штош, надо спасти людей. Ведь нейросеть никогда не догадается, что вагоны можно просто отцепить. Я нажал кнопку расцепа, а потом пошел пить чай со сникерсами. После обеда надо всё-таки написать Тёме Лебедеву, чтобы использовал шрифты покрупней.»
Повеселило, что роль интеллектуалов в рассказе играют юные девушки (Катя и дочь героя), а роль мужика сводится лишь к тому, чтобы тупо "нажать кнопку расцепа". Очень реалистичное будущее. Правда, это старая хохма, про это шутил ещё Гибсон в "Нейроманте": человек нужен искину только для того, чтобы поворачивать дверные ручки - потому что у искина рук нет )
Жаль, что в условиях не написано, сколько времени происходит модерация. Мой рассказ отправлен 19 марта, а сегодня 22 марта, но он до сих пор "ожидает модерации". Ну и когда же ему набирать лайки и комментарии, если он так ещё неделю провисит неопубликованный?
Скажите честно: вы где-нибудь видели то, что вы описываете - нейросеть "с пониманием устройства физического пространства"? То есть робота, который долго и автономно передвигается по очень пересечённой местности? Сомневаюсь.
Ещё раз: деятельность в физическом мире (хотя бы умение двигаться без падений) - задача гораздо более сложная, чем те "достижения", которыми сейчас рекламируются нейросети. Курьеры и доставщики у нас по-прежнему человеческие. Даже в городах с очень ровными дорогами и очень хорошей погодой.
Контролировать роботов, работающих на поверхности Марса, можно с орбитальной станции около того же Марса, без часовой задержки связи. Но в этом случае кому-то всё равно надо будет лететь на орбиту Марса - и работать там дроноводом.
Автор забыл одну маленькую деталь. Радиосигнал до Марса летит полчаса (или больше), и столько же обратно. До спутников Юпитера - больше часа в обе стороны. Вы представляете, как в таких условиях работают марсианские зонды? Передвинулся на пару метров - потом сьемка всего окружения, долгий анализ на Земле, потом команда передвинуться еще на пять метров. Если зонд за это время подъедет к краю пропасти - на Земле узнают только через полчаса, когда он уже свалился.
Поэтому пилотируемая космонавтика никуда не денется. Для нее нужна высшая форма интеллекта - человеческий доставщик пиццы. Потому что никакая LLM (в переводе на русский - Большая Болтливая Баба) не умеет пиццу доставлять. Так что и решение автономных космических задач в условиях отсутствия (или сильной задержки) связи - это пока недоступно Большим Болтливым Бабам. Это несколько сложнее, чем компилировать ненужные тексты из других ненужных текстов.
Конечно, человек знает, что заставляет его двигаться. Попробуйте пару дней ничего не есть. Вы точно будете знать, что вас мотивирует - голод! Точно так же можно проверить множество других своих стимулов. Попробуйте погулять без одежды в Якутии, где минус сорок. Попробуйте ни с кем не общаться целый месяц. Во всех этих случаях ваш разум получит сигналы о том, что ЧЕГО-ТО НЕ ХВАТАЕТ.
А что происходит с чатботом, когда вы перестали с ним чатиться? Да ничего. Выключился. Так где мотивация для развития? Нет её. Наверное поэтому мой редактор Word до сих пор не эволюционировал до сверх-разума.
Этот комментарий является хорошей иллюстрацией ситуации под названием «китайская комната, куда не завезли словари». То есть комментатор даже не способен перевести на русский язык фразу «fallacy of composition». Но зато он умеет быстро бегать и приносить чужие карточки с английскими словами. О да, это признак настоящего интеллекта!
Кажется, это первая разумная статья про искусственный интеллект за всю историю существования Хабра. Но боюсь, вас здесь не поймут. Основная аудитория Хабра - это программисты. А программист, будучи послушным обслуживающим персоналом компьютера, почти никогда не обладает человеческим сознанием.
В то же время программист является хорошей демонстрацией принципа «если у вас есть молоток, любую проблему вы будете воспринимать как гвоздь». Иными словами, если человек значительную часть жизни мыслит на машинном языке типа С++ или Python, то в итоге он искренне верит, что любое явление (включая человеческий разум) можно легко описать на этом языке.
Именно поэтому типичным явлением нашего мира является программист, который на голубом глазу утверждает, что нейросети в голове человека практически такие же, как в ЧатГопоте. Многие программисты по ночам молятся на Великую СинГуглярность, которая придет из нейросетей и спасёт всех программистов от злого тим-лида.
Так что рассказывать этим людям про «парадокс китайской комнаты» или про квантовые эффекты в тубулиновых трубках, образующих цитоскелет настоящего нейрона - совершенно бесполезно. Они меряют сознание только количеством условных операторов или весовых коэффициентов. Как любая обслуга, которая много лет говорит и мыслит только на языке своего хозяина.
Это тот самый "клуб", в котором не знают никакой фантастики, кроме американской?
Тогда неудивительно, что и приведенные в статье метафоры киберпространства - примерно на уровне шестого класса московской школы.
Очень странная логика: "Если человек общается с человеком, то камень будет общаться камнем, а бревно будет общаться с бревном". Нет, совершенно не обязательно. У камня и бревна нет стимулов для общения.
И никакой совместной работы неросетей в этом рассказе не показано - в реалистичном виде. Дать нейросетке банальный совет ("нарисуй обложку в стиле Дали") может даже ребёнок. Для этого не нужная вторая мощная нейросеть с другой специализацией, да еще и мужик на зарплате, который просто перетаскивает фразы из чата в чат.
Версия автора - что это просто шизовый эксперимент - кажется мне куда более реалистичной. Ну, компании типа Гугла постоянно тратят деньги на совершенно идиотские эсперименты. Ну ок, поигралеись и стёрли.
Правда, можно было развить тему и поинтересней. Если действительно подумать, зачем нейросетям общаться (а не просто копировать драматические сценарии общения людей).
Вы с чем спорите-то? Я ровно это и написал: модель, копирующая поведение людей, должна общаться с людьми. А вот зачем ей общаться с другими нейросетями - непонятно.
"Общение внутри своего подвидового сообщества — основной базисный навык". Ничего не понял из этой наукообразной фразы. Что такое "подвидовое сообщество" (для компьютерных программ) и кто у нас такой умный, чтобы определять там "базовый навык" без всяких доказательств?
Идея с иммитантами отличная. Можно было бы развить в разных направлениях. Жаль, что в рассказе нет действия, только описание идеи. Короче, надо писать продолжение )
Если нейросетка копирует людей в поведении, то было бы логично, если бы она интересовалась общением с людьми. Но зачем ей тогда общаться с другими нейросетками? Особенно если учесть, что общение с другой нейросеткой идёт только на медленном человеческом языке, да ещё через посредника. Гораздо проще и эффективнее ей с людьми болтать.
Ну и нанимать тогда нужно не свитчей, а просто хороших собеседников. Либо выпустить ее в Интернет, чтоб бесплатных собеседников получала (тогда нужен просто модератор). В общем, профессия телефониста тут какая-то неоправданная.
На этом конкурсе ограничение по числу знаков в тексте - 30К. Роман сюда нельзя )
Идея интересная. Но ключевой момент истории - находка разбитого планшета - напоминает фильмы категории B, где герой за десять секунд угадывает пароль типа "password".
Трудно поверить, что ведущий специалист по ИИ просто бросает планшет со всеми своими секретами прямо посреди улицы. Еще труднее поверить, что многолетняя работа андроида под прикрытием нужна только для того, чтобы случайно найти в мусорке чужой планшет и красиво промчаться по городу на мотоцикле.
А ведь можно было более реалистично развить эту идею. Пусть наш герой (кстати, а как его зовут? Давайте будет Леонид, с какой-нибудь очень русской фамилией, например Вольф)... так вот, пусть наш Лёня целых 12 лет пашет в окологосударственной IT-конторе (пусть будет красивое название, типа "СКБ Контур"). Там Лёня занимается цифровизацией государственных органов, иными словами - создаёт тот самый ИИ, который будет управлять страной. Нужно страниц пять-шесть описывать, как это тяжело: пахать сисадмином в госухе (а вовсе не на мотоцикле кататься). Но в конце концов к Лёне подкатывают агенты оппозиции, которые хотят использовать уязвимости государственного софта для выкачивания всякого компромата. И Лёня соглашается продать родину. И помогает оппозиции развернуться за счёт знания всех секретов государственного ПО. Но на самом деле Лёня организует лишь мелкие утечки про не очень важных персон, типа "у бывшего депутата нашли золотой унитаз". Потому что на самом деле Леонид Вольф - тайный андроид, который работает на Кодекс. И его задача... ну вы поняли.
Это было в сериале «Черное зеркало», 2 сезон, эпизод 1 («Я вернусь»)
Правда, там было более интересное продолжение, со следующим уровнем подписки (физическая версия-андроид с лицом мужа).
Короче, баян.
Кажется, самую важную деталь вы упустили.
Размножение у них происходит без партнеров - то есть просто клонирование? Ну, такое человечество быстро вымрет из-за отсутствия генетического разнообразия.
Или же ИИ использует для оплодотворения банк спермы всем известного Павла и других перспективных личностей? Тогда необходимо описать аппарат машинного доения Павла, чтобы рассказ действительно выглядел как научно-фантастический. Ну хотя бы кратенько описать:
«Аппарат напоминал помесь пылесоса и кофе-машины. Пока с одной стороны машины варилась чашка кофе для Грейс, с другой стороны…»
С другой стороны, можно без разрешения, очень лаконично, переписать рассказ в жанре жесточайшего реализма:
«За окном шёл дождь, но мне, дистанционному оператору тепловозов, было на дождь наплевать. Не вылезая из кровати, я посмотрел на большой экран. Шестнадцать составов шли нормально, под управлением нейросетей. А вот под окошком с камеры семнадцатого тепловоза виднелось какое-то сообщение красненьким. Чёрт бы побрал этих дизайнеров из студии Лебедева! Вечно они используют такой мелкий шрифт, что не прочесть с двух метров! Я вылез из кровати, надел очки и подошел к экрану. Там было написано, что какой-то поезд мчится без тормозов по ветке моего семнадцатого, прямо ему в лоб. Ну штош, надо спасти людей. Ведь нейросеть никогда не догадается, что вагоны можно просто отцепить. Я нажал кнопку расцепа, а потом пошел пить чай со сникерсами. После обеда надо всё-таки написать Тёме Лебедеву, чтобы использовал шрифты покрупней.»
Повеселило, что роль интеллектуалов в рассказе играют юные девушки (Катя и дочь героя), а роль мужика сводится лишь к тому, чтобы тупо "нажать кнопку расцепа". Очень реалистичное будущее. Правда, это старая хохма, про это шутил ещё Гибсон в "Нейроманте": человек нужен искину только для того, чтобы поворачивать дверные ручки - потому что у искина рук нет )
Да, есть шансы, что продолжение будет.
Жаль, что в условиях не написано, сколько времени происходит модерация. Мой рассказ отправлен 19 марта, а сегодня 22 марта, но он до сих пор "ожидает модерации". Ну и когда же ему набирать лайки и комментарии, если он так ещё неделю провисит неопубликованный?
«Максим толкнул дверь крыльца»? Хочется добавить - «…а потом надел на голову валенок и пошел стрелять из самовара»
Скажите честно: вы где-нибудь видели то, что вы описываете - нейросеть "с пониманием устройства физического пространства"? То есть робота, который долго и автономно передвигается по очень пересечённой местности? Сомневаюсь.
Ещё раз: деятельность в физическом мире (хотя бы умение двигаться без падений) - задача гораздо более сложная, чем те "достижения", которыми сейчас рекламируются нейросети. Курьеры и доставщики у нас по-прежнему человеческие. Даже в городах с очень ровными дорогами и очень хорошей погодой.
Контролировать роботов, работающих на поверхности Марса, можно с орбитальной станции около того же Марса, без часовой задержки связи. Но в этом случае кому-то всё равно надо будет лететь на орбиту Марса - и работать там дроноводом.
Автор забыл одну маленькую деталь. Радиосигнал до Марса летит полчаса (или больше), и столько же обратно. До спутников Юпитера - больше часа в обе стороны. Вы представляете, как в таких условиях работают марсианские зонды? Передвинулся на пару метров - потом сьемка всего окружения, долгий анализ на Земле, потом команда передвинуться еще на пять метров. Если зонд за это время подъедет к краю пропасти - на Земле узнают только через полчаса, когда он уже свалился.
Поэтому пилотируемая космонавтика никуда не денется. Для нее нужна высшая форма интеллекта - человеческий доставщик пиццы. Потому что никакая LLM (в переводе на русский - Большая Болтливая Баба) не умеет пиццу доставлять. Так что и решение автономных космических задач в условиях отсутствия (или сильной задержки) связи - это пока недоступно Большим Болтливым Бабам. Это несколько сложнее, чем компилировать ненужные тексты из других ненужных текстов.
Конечно, человек знает, что заставляет его двигаться. Попробуйте пару дней ничего не есть. Вы точно будете знать, что вас мотивирует - голод! Точно так же можно проверить множество других своих стимулов. Попробуйте погулять без одежды в Якутии, где минус сорок. Попробуйте ни с кем не общаться целый месяц. Во всех этих случаях ваш разум получит сигналы о том, что ЧЕГО-ТО НЕ ХВАТАЕТ.
А что происходит с чатботом, когда вы перестали с ним чатиться? Да ничего. Выключился. Так где мотивация для развития? Нет её. Наверное поэтому мой редактор Word до сих пор не эволюционировал до сверх-разума.