Comments 74
Словно до ИИ зумерьё много читало и не выбирало деградировать даже не скрывая этого. Очередной жупел луддизма.
Гуманитрии обращают внимание на гуманитарный аспект развития, и это нормально абсолютно, луддизма тут нет: никто не призывает останавливать развитие этой технологии и тем более "крушить станки". И есть, все же, о чем задуматься, ИИ действительно все лучше и лучше выполняет за нас некоторые виды работ, соблазн расслабится очень велик. Но, расслабившись, мы непременно начнем терять навыки
Вы правда расстроены потерей навыка конюха, землепашца, изготовителя лаптей и т.д.?
Судя по количеству статей написанных нейросеткой - отомрут как раз интеллеклуалы. Поскольку природа избавляется от того что не нужно. В данном случае - от мозгов.
Лаптей, наверно , нет. Но, думаю, речь идёт о творческих вещах, что ближе, конечно, писателям как творческим личностям (тексты, сценарии, иллюстрации и пр.).
И я бы даже в ряде случаев жёстче ставил вопрос: не просто потеря навыков, а потеря профессии и работы.
А я вот согласен с этим утверждением. Ии на текущем этапе развития ни что иное как интерактивная библиотека онлайн с огромной базой информации. Каким образом библиотека делает человечество глупее? Я пользуюсь ей для программирования. И я не посню, чтобы обращался к gpt по одному и тому же вопросу 2 раза. Получается, что я умнею с ней, а не глупею. Разве нет?
Ну не только библиотека. Тексты, например, создаются в огромном количестве. Переводы с и на иностранные языки, изображения самые разные, презентации, дипломные работы, статьи . Уже есть СМИ, которые полностью написаны ИИ. И, к сожалению, школьники и студенты часто прибегают к ИИ, ленятся сами, увы
Они учатся не уделять внимание вопросам, которые им скучны. Мне сложно себе представить, чтобы графоман отказался писать сочинение на любопытную для него тему. Так же сложно представить себе, чтобы радиолюбителей убивала возможность покупать готовые устройства на алике. Радиолюбителей от этой возможности меньше не становится. И писатели не переведутся. И музыканты с композиторами - тоже. И художники будут творить.
Творить-то они будут, а им будут за это платить? Уже сейчас многим проще и дешевле нашаманить в нейросети, чем заказывать иллюстрацию. У меня есть знакомые художники, которые прямо в ужасе. Это не в тему статьи, просто мысль в комментарии зацепила.
необходимое обучение часто скучно и неприятно приложением усилий, думаю, это утверждение не нужно доказывать
Мне кажется, тут проблема глубже. И в «дипломах», и в прочих «работах» слишком много внимания стало уделяться воде и оформлению, а не содержанию по сути.
Если какую-то работу можно написать с помощью ИИ более, чем наполовину - её научная ценность близка к нулю.
Хотелось бы услышать более конкретные прогнозы, но могу понять боязнь Лукъяненко, кхм, «попасть пальцем в небо»
Проблема верификации информации важна, мне кажется в будущем это будет решаться путем последовательной проверки цепочкой живых людей, так, как сейчас работает «Википедия», например
Но проблема «лживых» ИИ действительно пугает
согласен с вами, интересная мысль, может даже появятся соцсети, которые будут исключительно этим вопросом верификации заниматься, нечто похожее уже существует, впрочем
путем последовательной проверки цепочкой живых людей, так, как сейчас работает «Википедия»
добавлю немного личного пессимизма)
Боюсь предположить, что, как вариант, нужна будет как цепочка из людей, так и цепочка верификации этих людей) И все равно обеспечить стопроцентную гарантию корректности будет сложновато.
Тот же опыт "Википедии" показывает, что содержание статей может быть, мягко говоря, необъективным, но сам ресурс при этом имеет претензию на некоторую энциклопедичность.
И да, ранее и в настоящее время проблема верификации тоже не решается в 100% случаев, я бы и 50% дал с трудом, но кто я такой, чтобы мерить)
Но наблюдается явное увеличение скорости распространения информации, т.е. банально растут риски (ну и да, кто оседлывает поток, тот владеет умами, звучит банально, но мне, например, сложно спорить). И история с "в одном конце деревни кашлянул, в другом говорят, что завтра похороны" вполне трансформировалась, например в "ученый изнасиловал журналиста" и "мастерство" заголовков и копирайта с рерайтом.
Поэтому проблема лживых ИИ меня тоже пугает)
кто оседлывает поток, тот владеет умами
На мой взгляд, тоже поколенческий вопрос, кстати
в том ключе, что последующие не захотят ничего седлать или будут делать это с меньшей интенсивностью или речь о другом?
А оседлать попробуй тех, кто принципиально только кнопочными телефонами пользуется, не доверяют смартфонам. Отключились от интернета - и все, вышли из матрицы
Двояко, мне кажется, все же.
С одной стороны да, а с другой - вот тебе ТВ, газеты(те же околоуфологические издания, какой-нибудь дилетант и иже с ними) и нужные книжки. И толпа тех, кто смартфону доверяет и с ним не расстается. Сложнее? Да. Нереально? Не уверен.
Ну и то, что дозировка меньше - не значит же, что ты не сидишь на игле, простите за столь вульгарную аналогию.
Проблема верификации информации важна, мне кажется в будущем это будет решаться путем последовательной проверки цепочкой живых людей
Сгенерированного контента будет гораздо больше, чем возможностей людей его проверить. Грубо говоря, если на вопрос "почему небо голубое" раньше ребёнок мог увидеть проверенную статью в википедии, то в будущем он будет спрашивать напрямую у чат-бота, читать галлюцинации, и верить им.
Глубина, Глубина, я не твой
Предложите развитие темы, вернёмся к ней
История с Глубиной как раз закончилась темой, которую лучше не развивать, если мне не изменяет память)
Вот этот самый мирок аватаров, живущих в виртуальности, а не в реальности - один из сценариев результата плохоконтролируемого технического развития, мне кажется, матрица на отечественный лад, с сознательным выбором.
ИИ — может быть зол по отношению к человечеству. А вторая — что может быть добр.
ИИ не может быть зол или добр. ИИ - это инструмент, как молоток или скалка. Добр или зол может быть тот, кто использует инструмент. Молотком можно забивать гвозди или ломать кости. Но злым он от этого не становится. Ибо молоток - это предмет. Он не думает. И ИИ тоже не думает.
Добр или зол может быть искусственный разум, но его пока не наблюдается.
Тут, видимо, кавычки надо поставить, писатель выразился образно
Как раз ИИ должен думать и проявлять чувства. То, что сейчас выдаётся за ИИ им ещё не является. Но кто знает, как оно повернется в ближайшем будущем.
ИИ думать не должен. ИИ должен делать то, на что запрограммирован.
Думать должен ИР.
Какой смысл в подобной лингвистической эквилибристике?
Исключительно точность терминологии. ИИ не обладает сознанием, потому его надо отделять от "искусственного разума" - это совершенно отдельная область.
Смысл в том, что настоящие злодеи не прятались за ширмой "злого ИИ". Если ИИ дифференцирует тарифы или выдаёт рекламные тексты, максимально бьющие в цель и заставляюшие тратиться на фигню, то злой - владелец корпорации, которая получает прибыль, а не ИИ.
Возможно мы столкнемся не с избытком информации, а с ее дефицитом. Если умрут все тематические форумы где ИИ будет брать данные для обучения? Возможно даже новые технологии окажутся под угрозой внедрения из-за того, что о них ничего не знает ИИ. Но мне кажется, что скорее всего возникнет определенный баланс.
интересная мысль! действительно ,без нашего активного мыслительного процесса ИИ не на чем будет учиться
Ценность человеческого мыслительного процесса преувеличена. Alpha Zero обходился без него (не считая самой разработки алгоритма, конечно).
Буквально через год мы увидим отказ от человеческих данных для обучения во многих областях. Запомните этот твит, как говорится.
С детерминированными играми сравнивать неуместно. Там точно известно, что есть победа, а что поражение, по поэтому можно нагерерить много ситуаций и оценить их автоматически.
А что делать с текстами, с рисунками? ИИ может нагенерить дохрена всякой мути, но без оценки человеком невозможно проверить ценность сгенерированного, а значит и направить обучение.
Оценка - это не то же самое, что исходные данные для обучения.
У массовой аудитории считается, что для рисования ещё более качественных картинок нужно ещё больше картинок от людей, но ситуация уже не такая. Ещё лишний петабайт картинок не является необходимым (и никак не поможет оценить качество сгенерированного)
А вот оценка без сомнения нужна. И проблема получить максимум результата из минимума оценок. Есть RLHF, но он далёк от идеала.
В Alpha Zero генерация + оценка полностью автоматическая.
А тексты/картинки... Никто не будет вычитывать/отсматривать миллиард гигабайт попыток, тем более тех, которые отличаются чуть-чуть (но эти отличия важны, чтобы понять, куда двигаться модели). RLHF - черепашья скорость, по сравнению с тем, что нужно Alpha Zero.
да, но тут есть творческая "заморочка": что человеку нужно: оценивать или создавать самому?
очень крутое предсказание, кстати!
Если через год, то уже сейчас должны быть прецеденты
Они есть. Вот пара старых статей в этом направлении (не считая alphazero)
https://arxiv.org/abs/2110.08176
Вот распознавание объектов с помощью самостоятельного изучения окружения (с ограниченным датасетом от людей)
https://www.psc.edu/spatial-ai/
Работы ведутся и прорыв в этой области определенно будет.
" У нас также есть серьезные заделы в биотехнологиях " - интересно было бы узнать какие именно. Наиболее серьезный "задел" в биотехнологиях - почти четверть века гонений на генетику. Поэтому и отставание с тех пор.
Особенно доставило про пожелание терпения тем, кто тут остался работать. Не хорошего начальства, не интересных задач - а терпения и удачи, да.
А при чем здесь гонения на генетику? Гонения как начались так и закончились, а биотехнологические исследования сильные, от них и заделы. Институт генетики, например, (на которую гонения) всегда давал серьезные результаты, и публикациями в Nature, и патенты, не знаю, какие еще критерии серьезности дать, но они все есть.
Гонения закончились, да упущенное время так и осталось упущенным. Если вы говорите о заделах - расскажите конкретнее, особенно про институт генетики (который из, кстати?) - который всегда(!) давал серьезные результаты. Как там с серьезными результатами этого института в 1927 или 40-50х годах? Особенно с публикациями в Nature?
Открытие нуклеиновых кислот, их структуры и роли? Вирусы? Электронный микроскоп? Моноклональные антитела? Может хоть синтез белка в СССР открыли? Интерференция РНК? CRISPR? ПЦР? Все эти Southern Blot'ы? ничего из этого...
:) Нет, в 50-х годах советских ученых в Nature не публиковали.) Они не отправляли туда статьи. Но не потому, что нечего было. И ничто из того, что вы назывете, не биотехнология. Институт отпочковался от Курчатника в 1968 году. Публикация в Nature на тему предсказание структуры белка в нулевых, эта та тема, за которую Нобелевку дали на той неделе. Лично моя диссертация была про синтез L-аргинина коринебактериями, и вот это — биотехнология, годная вполне.
"Институт генетики" - 1930 год основания, первый деректор - Вавилов.
"Институт общей генетики" - 1966 год основания
"Институт цитологии и генетики Сибирского Отделения РАН" - третий институт, 1957
И конечно же в биотехнологии не нужна генетика и т.д. Можно и без нее, но плохо. Собственно, как оно и было везде, кроме Курчатовского
упущенное время так и осталось упущенным
Не бывает такого. Не существует вечных преимуществ.
Лукьяненко -- эксперт в IT? К чему его тут мнение вообще?
Почему у меня ощущение, что все фото Лукьяненко из поста нарисовала нейросеть?
Когда появилось книгопечатание был вой по поводу деградации людей.
Когда появились калькуляторы, был вой о деградации людей.
Когда появился Интернет был вой о деградации людей.
Между тем, качество и сложность интеллектуального продукта, на любой временнОй базе, все это время только повышается.
Какой из этого можно сделать вывод? Вой о деградации людей - надежная, нестареющая тема! С ней сравнится только нестареющая со времен античности тема о «порочности молодежи», которая, на взгляд старцев, каждый раз хуже, чем их поколение.
Не согласен. Речь идёт не о том, что кто-то стал хуже или лучше, а о том, нужно стараться или нет добывать знания. Пример из жизни: многие молодые люди уверены, что иностранный язык легко выучить и общаться на нем. К этой мысли их подталкивают, на мой взгляд, в частности, легкодоступность онлайн словарей и автоматических переводов, которые сейчас во многом на ИИ построены, возможность общения в соцсетях и в переписке с подсказками от ИИ и прочего. И каково же их искреннее разочарование, когда они узнают, что чтобы общаться на приличном иностранном языке, нужно посвятить этому вопросу много времени упорного труда. И я сравниваю со своим поколением: нам и в мысли не приходило, что это легко, изначально настраивались на то что будет нелегко и придется часть жизни отдать этому процессу, пожертвовав чем-то другим. Я бы добавил, что ещё и иллюзия создаётся лёгкости и бессмысленности тяжёлого труда в ряде вопросов. Зачем, если можно сгенерировать ИИ?
Это тот самый Лукъяненко, который вот это писал?
Гипотеза что произойдет сращивание человека и ИИ. Уже сейчас есть очки с дополненной реальностью, телефон многие не выпускают из рук. Осталось только вживить это в тело. Это не хорошо и не плохо, это возможно новый этап эволюции.
В данных вопросах он, при всем уважении к нему, не является специалистом.
Кир Булычёв, «Пленники астероида».
Про Рим было смешно... вымерли значит ребята потому что не знали что им делать. И никакого телевизора не надо оказывается чтоб сдеградировать до самоуничтожения? А как же варвары спалившие Рим? Они разве смысла жизни империи не придали?
Было дело. Элита Рима выродилась культурно, погрязла в коррупции, эгоизме, вместо дисциплины и аскетизма легионеров-воинов воцарились алчность и разврат. Свидетельства историков
Читал. Но не думал что кто то серьезно это воспринимает. Прям верит в то что вопрос денег там вторичен, а вот всякие высшие материи помешали целой империи выжить. Вот прям никак тот факт что дебет с кредитом не бился из-за размеров империи не повлиял на её развал. А вот то что верхушка поголовно пьянствовала и страдала греческими болезнями её погубила.
Причем на конце Спарты даже видно что дело не в высших материях, а деньгах. Но все почему то упорно смотрят насколько духовно ребята себя вели. На секунду речь о Риме. Том самом где боги менялись с каждым императором, как и принципы.
ИИ не друг или враг. Это - инструмент. Как отвёртка. Можно винт закрутить, а можно и в пузу воткнуть.
На Лукьяненко ИИ не требуется, ему телевизора хватило.
Сергей Лукьяненко: ИИ готовит нам ловушку интеллектуальной беспомощности