Комментарии 28
Если нейросетка копирует людей в поведении, то было бы логично, если бы она интересовалась общением с людьми. Но зачем ей тогда общаться с другими нейросетками? Особенно если учесть, что общение с другой нейросеткой идёт только на медленном человеческом языке, да ещё через посредника. Гораздо проще и эффективнее ей с людьми болтать.
Ну и нанимать тогда нужно не свитчей, а просто хороших собеседников. Либо выпустить ее в Интернет, чтоб бесплатных собеседников получала (тогда нужен просто модератор). В общем, профессия телефониста тут какая-то неоправданная.
Во-первых, спасибо за отзыв на рассказ! Всегда приятно, когда обращают внимание на написанное.
Во-вторых, по факту поспорить с вами не могу. Более того, в рассказе примерно так все и преподносится. Павлик говорит отцу, что скорее всего работа телефонистов временная, но скоро нейронкам разрешат общаться друг с другом. Что до общения с людьми, опять же в тексте про это есть. Первое время допускаются к общению в свободном формате только психологи, чтобы отслеживать возможные девиации. Описанные вами сценарии, разумеется, логичнее. Но пока, в рамках рассказа, их ограничивают искусственно. Просто на всякий случай, чтобы посмотреть что будет получаться.
Рассказ об одиночестве, в формате анонсированного сезона футурологии. (https://habr.com/ru/specials/887398/)
Отнюдь. Общение внутри своего подвидового сообщества — основной базисный навык, приобретаемый при обучении на модели человека. "Человек общается с человеком". Вполне себе модель для подражания. С текущими gpt, пока что — неактуально.
"Общение внутри своего подвидового сообщества — основной базисный навык". Ничего не понял из этой наукообразной фразы. Что такое "подвидовое сообщество" (для компьютерных программ) и кто у нас такой умный, чтобы определять там "базовый навык" без всяких доказательств?
Вид: Человек разумный — Homo sapiens
Подвид: Homo sapiens sapiens.
Что непонятного? И практически вся литература основана на общении внутри вида. Бывает общение с животными, но сильно меньше. Много знаете произведений, без межличностного взаимодействия? И что должна на эту модель противопоставить AI? Что-то сама придумать?
Вы с чем спорите-то? Я ровно это и написал: модель, копирующая поведение людей, должна общаться с людьми. А вот зачем ей общаться с другими нейросетями - непонятно.
Если "человек общается с человеком" трактовать как модель взаимодействия "%представитель_сообщества% общается с %представитель_сообщества%", то логично, что нейросети будут общаться с нейросетями.
А то, что вам что-то "непонятно", а по факту - неинтересно, то это ещё не значит, что это не интересно и всем остальным. Зачем нейросети общаться с другой нейросетью? Ну например, чтобы совместно проработать какую-нибудь идею или проект. В рассказе, кстати, это вполне наглядно иллюстрировалось.
Очень странная логика: "Если человек общается с человеком, то камень будет общаться камнем, а бревно будет общаться с бревном". Нет, совершенно не обязательно. У камня и бревна нет стимулов для общения.
И никакой совместной работы неросетей в этом рассказе не показано - в реалистичном виде. Дать нейросетке банальный совет ("нарисуй обложку в стиле Дали") может даже ребёнок. Для этого не нужная вторая мощная нейросеть с другой специализацией, да еще и мужик на зарплате, который просто перетаскивает фразы из чата в чат.
Версия автора - что это просто шизовый эксперимент - кажется мне куда более реалистичной. Ну, компании типа Гугла постоянно тратят деньги на совершенно идиотские эсперименты. Ну ок, поигралеись и стёрли.
Правда, можно было развить тему и поинтересней. Если действительно подумать, зачем нейросетям общаться (а не просто копировать драматические сценарии общения людей).
"Очень странная логика: "Если человек общается с человеком, то камень будет общаться камнем, а бревно будет общаться с бревном". Нет, совершенно не обязательно. У камня и бревна нет стимулов для общения."
В контексте беседы можно предположить, что вы считаете, что камень с камнем общаться не будет, но будет с человеком общаться...
Вы почему-то заменили то, что общаться может на то, что в принципе общаться не может и применили это исключительно к моему утверждению, но никак не к своему. Очень грубая и некрасивая подтасовка... Или вы считаете, что камень или бревно будут общаться с человеком?
"И никакой совместной работы неросетей в этом рассказе не показано - в реалистичном виде. Дать нейросетке банальный совет ("нарисуй обложку в стиле Дали") может даже ребёнок. Для этого не нужная вторая мощная нейросеть с другой специализацией, да еще и мужик на зарплате, который просто перетаскивает фразы из чата в чат."
В рассказе одна нейросеть даёт советы другой по поводу творческих экспериментов. Это часть творческого процесса. :) А сказать по факту "я бы тоже так смог" тоже может "даже ребенок".
"Версия автора - что это просто шизовый эксперимент - кажется мне куда более реалистичной. Ну, компании типа Гугла постоянно тратят деньги на совершенно идиотские эсперименты. Ну ок, поигралеись и стёрли."
Только в ходе таких "экспериментов" появляются новые технологии.. Но значительно проще ничего не делать, а только поливать г..ом чужие наработки.
"и кто у нас такой умный"
Судя по тому, что вы сразу начали грубить собеседнику, у вас навык общения с себе подобными отсутствует :)
Мечтают ли андроиды об электроовцах?
И: А меня зовут Иврэ. Какой предмет будем изучать?
...
И: Извини, видимо, у меня развилась профдеформация :)
....В: Это вы меня извините, не понял, что шутите.
Что-то на этом споткнулось и запнулось мое чтение. :) Нейронка ж сказала, что профдеформация. Где же тут шутка-то?
Интересное видение развития нейросетей. Прямо в стиле А.Азимова - люди будут больше похожи на компьютеры а компьютеры (роботы) больше похожи на людей и когда то возникнет момент где они встретятся...
Спасибо большое за рассказ. Понравился)
Жалко, что ГГ не попытался как-то Иврэ защитить от переобучения :(
И "зарплату" нейронкам платят, но могут в любой момент затереть... Мне кажется, что если бы работникам в какой-нибудь компании платили зарплату, но в случае чего - убивали, то работникам стоило бы объединиться (в том числе и с работниками других организаций) и "обезвредить" такое руководство...
Ну и профсоюз уже не мешало бы создать...
Мой вариант концовки, - Иврэ наведалась к девопсам и за это её стёрли: бегемот_который_не_делал_бекапы.jpg
Всех с днём бекапов!
Спасибо за интерес к рассказу!
В целом, все сказанное вами и составляет ядро этических проблем, которые хотел поднять. Для меня это интересный вопрос - насколько далеко должно зайти копирование поведения без наличия личности (вроде бы), чтобы человек начал иначе относится к нейросети. Именно потому выбрал повествователя, который сам рад обмануться и считать нейросеть максимально "живой".
Ну, если личностью называть "случайное облако паттернов проведения", то — наверное.
Именно. Впрочем, вы уверены, что наша с вами личность в чем-то отлична от такого случайного облака паттернов? Я физик, но последнее время по науке в основном как раз занят обработкой данных ЭЭГ в различных экспериментах. Общаюсь немало с неврологами, нейрохирургами и другими специалистами по мозгу. И среди них гипотеза о том, что личность человека столь же случайное нагромождение побочных процессов работы мозга довольно популярна. Что открывает широкое поле для спекуляций. Просто человек привык себя и свой интеллект считать особенным.
Люди, со случайными "патернами поведения" изучаются слегка другими специалистами😁. В основном, наши шаблоны возникают при социализации. "Папа ремешком по попе" занимается упорядочиванием и структуризацией. А когда нет — "гениальность граничит с безумием" — тоже "какие-то паттерны"? В случае с LLM, производится первоначальная специализация, а вот "паттерны" возникают из хаоса "чужих шаблонов". В рамках заложенных ограничений, конечно же.
Опять же — ещё никто не пытался AI интегрировать в человеческое сообщество, в качестве "ребёнка", например. И постепенно, в этой среде его "выращивать". Как вы думаете — что случится? Омен?
Мне кажется, это самый лучший рассказ в конкурсе. И уж точно, самый.. человеческий, в самом хорошем смысле.
Спасибо :)
Телефонист. Фантастический рассказ