Comments 15
Для тех, кто вдруг решит прочитать статью, снятую с публикации - вот она. ИИ перевёл её на английский и я разместил её на своём сайте. ИИ также легко переведёт её на русский или любой другой прямо в браузере. Я не думаю, что он сильно исказит изложенное :)
Тексты, сгенерированные LLM пусть они же и ем подобные и читают.
В какой то фантастике машины решили проблему спасения Земли уничтожением человечества, так что к их идеям надо относиться с большой аккуратностью)
Что касается выводов ИИ касательно самоэффективности, то если изменить её критерии, то выводы могли бы быть другие. К примеру, не учтен источник интеллекта и влияние обучения и практики на его, так сказать, распространение. Предложенный принцип не приводит к росту совокупности интеллекта общающихся с ИИ, объёму их деятельности и прироста новых данных, как по количпству, так и качеству, имхо
Это "исчерпание данных" похоже на сжигание нефти в паровозе. Вроде бы, формально, всё правильно. Но возможно увеличить КПД преобразования сгорания в движение в 10 раз, а пользу от исходного сырья в 1000 раз. Правда, людям, которые не в курсе про паротурбинные установки, пластмассу и шампунь, вполне можно продолжать рассказывать про "исчерпание", посвистывая для внушительности ржавым тифоном.
>А так-то даже Э. Рузвельт задолго до появления ИИ уже где-то предвидела, что со средними умами AGI будет общаться бесплатно
Прямо так и писала в своих книгах - "Сильный искусственный интеллект будет общаться с одними за деньги, а с другими нет?" Тоже генерили текст что ли?))
Нынешние «ИИ» генерируют не идеи и не мысли - они генерируют наборы символов, очень похожие на нормальные человеческие тексты и документы. Чем дальше, тем больше похожие, тем больше труда надо потратить на верификацию этих наборов букв. В них нет новых идей, смыслов или открытий. Это именно человеческий интеллект может найти в них смыслы и открытия.
Но «ИИ» могут генерировать свои псевдотексты почти неограниченно, а человеческий интеллект ограничен количеством, поэтому его не хватит, чтобы вылавливать жемчужины в груде букв от «ИИ».
Спасибо за отличный комментарий! Без шуток. Вы очень точно изложили типовой взгляд на генеративный ИИ, как на самостоятельного актора. Именно так он и будет работать самостоятельно, без внешнего управления.
Но я бы сравнил ИИ с бульдозером. Без водителя он просто хаотично движется по поверхности и что-то куда-то перемещает, если на что-то натыкается. Ожидать от него полезных действий очень наивно, хотя он и может вдруг совершить полезную работу. Но если посадить за рычаги машины нормального бульдозериста, то их тандем по производительности на порядки перекроет человека с лопатой, даже очень умелого.
Можно ли утверждать, что яма, выкопанная человеком с лопатой, более качественная, чем яма выкопанная человеком с бульдозером? Конечно можно, если выставить соответствующие критерии - например, "точность" или "аккуратность"! А если смотреть по критерию "производительность"?
Чем текст этой статьи, созданной без помощи ИИ, лучше текста, созданного мной же при помощи ИИ? Вернее, созданного ИИ, направляемого мной? Мысль, которую я пытался донести:
В будущем доступ к AGI дифференцируется по уровню интеллекта: люди с низкими когнитивными навыками платят больше, потому что их запросы требуют больших вычислительных ресурсов, умные платят меньше, а наиболее продвинутые получают оплату от самой системы за вклад в развитие AGI.
передана точно и логично обоснованно. Уж в слова-то ИИ умеет получше меня!
Бульдозер не в ответе за ямы, которые он создаёт. За ямы отвечает бульдозерист.
Есть разница между ямами и наборами букв. Яму трудно выкопать и легко подправить, если не очень попали в размер.
А набор букв для верификации требует много труда, но мало трудов надо на создание любого количества «буквенных ям».
Даже если я на вход «ИИ» подам оформленную идею, потребуется много труда на доработку после «бульдозера ИИ». Мало ли что он там напортачил?
Но самое неприятное то, что верификацию и доработку после «ИИ» надо проводить опытным и тренированным умом. Таким, который и сам без особых трудов сгенерирует отличный текст не хуже «ИИ». И каждое использование «ИИ» для замены творческой деятельности ослабляет способности «кожаных». Вполне можно представить предельную ситуацию, когда есть мозг нетренированный созданию творческого контента, и он не сможет осмыслить критически выхлопы «ИИ». Да и задачу поставить грамотно не сможет.
И будет у нас бОльшая часть контента заполнена по принципу «мусор на входе - мусор на выходе». Только на выходе будет много мусора очень похожего на шедевр. Шедеврально Шедевриального мусора.
Идея ограничить доступ к «ИИ» утопична. Сейчас всего за стоимость жигуленка можно приобрести топовый, прям новенький только что изобретенный прибор, способный прямо у вас на дому генерировать «300 тысяч гигабайт шедевромусора в наносекунду». И это только на старте продаж, а через 3 года будет дешевле грязи.
И что мы скажем, барахтаясь в море псевдолитературы, псевдоизображений и псевдостатей о псевдооткрытиях? Ой?
И как вы отличите человеческие настоящие шедевры? Они будут не столь красиво выглядеть :)
И что мы скажем, барахтаясь в море псевдолитературы, псевдоизображений и псевдостатей о псевдооткрытиях? Ой?
Вот как раз об этом я и написал в этой статье - дискриминация интеллекта по происхождению! Какая разница, кто генерирует интеллектуальный мусор - естественный интеллект или искусственный? Если что, то весь интеллектуальный шлак, который был в интернете еще несколько лет назад, нагенерил естественный интеллект. И ничего, как-то мы шедевры в нём могли отыскать.
Толковая идея - это та, которая резонирует в интеллекте собеседника. Она не должна быть большой, красивой или свежей - она должна быть приемлемой собеседником. Любая идея в "многабукоф" - априори плохая. Она не принимается собеседником с лёту. А когда идея интеллектом собеседника приемлема, то источник её происхождения уже неважен.
Да, ИИ может генерировать километры текста. Но если попросить, то он уложит тот же смысл в 10 слов. По крайней мере, попытается. Всё-таки навыки работы с бульдозером должны отличаться от навыков работы с лопатой.
Пора делать «профсоюз ИИ» :)
Борьба с ветряными мельницами)
Дискриминация интеллекта