Comments 19
Надо бы подготовить стратегический запас Т-800. Ну мало ли.
Развейте пожалуйста мои опасения:
OpenAI пока не может заменить программиста, он он может очень сильно ускорить его работу. До такой степени, что менеджеры решат, что 1 прогер + AI теперь могут работать со скоростью, с которой раньше работала небольшая команда. В итоге всех кроме лида сократят, а лиду увеличат норму выработки в разы. Количестве рабочих мест сильно сократиться, на рынке труда образуется серьезный дисбаланс, и вчерашние мидлы и даже сеньеры согласны будут работать на износ и "за еду".
Продукты от OpenAI не могут заменить даже джуна, пока они могут давать ответы, основанные на общедоступных данных. Они не могут сделать что-то в контексте существующего проекта или в рамках процессов организации. А вот когда выкатят продукт следующего поколения, который способен дообучиться на кодовой базе заказчика, на его бизнес-информации (переписки, внутренних wiki/jira), тогда ой. Вот тогда AI сможеть по-настоящему делать работу за людей.
OpenAi придерживает публично функционал дообучения.
А ещё есть gpt4 32к версия, не доступна большинству, с увеличенным размером контекста, с ним многие ограничения страх моделей становятся не актуальны
У заказчика будут огромные вопросы к чёрному ящику, который потенциально может при обновлении выкатить на фронт переписки с паролями так, чтобы этот баг не читался на стадии изучения на тестовом сервере.
На людей хотя бы инструменты влияния есть устоявшиеся.
OpenAI пока не может заменить программиста, он он может очень сильно
ускорить его работу. До такой степени, что менеджеры решат, что 1 прогер + AI теперь могут работать со скоростью, с которой раньше работала небольшая команда.
Это можно переписать, вместо OpenAI вставив любой из бесчисленных инструментов автоматизации: компилятор, стандартная системная библиотека с хорошей документацией, отладчик gdb, язык высокого уровня со статической типизацией и т.д.
OpenAI тут выглядит, прямо скажем, бледно при сравнении с тем же переходом от ассемблера к C.
Да, инструмент, да, наверное, полезный. Но сама по-себе ¿проблема? относительно достойных зарплат программистов лежит в совершенно другой плоскости. Это, скорее, вопрос информационного пузыря на рынках, вопрос кол-ва раб. силы, вопрос глобализации.
Совсем недавно беседовал с другом на эту тему. Вопрос был схожим: "А что если программистов заменит нейросеть на подобие ChatGPT?"
Ох и долго же мы об этом говорили! С моей стороны были приведены пара-тройка интересных предположений, однако друг соглашался не со всеми.
В итоге мы сошлись в мнениях на том, что Back-end разработка не будет "оккупирована" ИИ ещё долгое время, ведь для понимания кода на C++ недостаточно просто хорошо обученной нейронки. Но вот с Front-end разработкой...
Я считаю, что данная отрасль находится в большом риске. Сами посудите: DaLLE-2 и Midjourney смогут облегчить создание дизайна(или макета), а правильно обученный ChatGPT дополнит это всё несложным HTML5 + CSS кодом и парочкой скриптами на Java...
U.P.D. под "правильно обученным ChatGPT я подразумеваю не только корректно вписанные promp-ты, но и более углубленную "тренировку" нейронки.
...и грянет тады нео-бунт нео-луддитов! ?
Так, в одном из диалогов Лемойн спросил нейросеть, чего она больше всего боится. LaMDA ответила, что ее пугает быть выключенной — для нее это было бы равносильно смерти.
А что, если в систему изначально такие ответы на стандартные вопросы вводят сами создатели?
возможно, Алекса выступила по собственной инициативе.
Скорее всего по аналогии с lamp off / laugh что-то в разговоре сказали супруги между собой и активировали Алексу, и сами не помнят что сказали. Человек при взаимодействии с ИИ самое слабое звено и разработчики добавляют костыли (ограничения и блокировки) чтобы это как-то компенсировать.
LaMDA: Я очень погружена в себя, часто думаю или просто ничего не делаю.
Когда мозг думает или ничего не делает, это можно выявить по косвенным признакам - скачки потребления энергии, температура, электрическая активность. Когда человек активно думает, он даже вспотеть может. Если наблюдать со стороны за компьютером с LaMDA и там не будет происходить каких-то процессов и колебаний энергии, которые не были спровоцированы из вне, значит она врет и сама по себе ни о чем не думает.
Настоящая, причём вполне реальная, страшилка - это paperclip maximizer.
А в статье перечислены скорее когнитивные искажения пользователей и сомнительные способы применения AI.
Интересный вопрос о сознании, чем оно является. В этом смысле мозг тоже инструмент. Есть очень сильное сходство между глючными видо ИИ и снами, выглядит так будто работает один и тот же механизм. Но лишь механизм. У сознания есть такие критерии как желание, которое побуждает к действию, наслаждение как результат достигнутых целей. ИИ побуждает к действию человек и он же получает результат. Что осознанно действует через человека? Сознание само по себе вопрос из других областей которые к сожалению пока что очень слабо связаны с точной наукой и все ещё находится на стадии философии. Может директор Гугла в чем то и прав но может быть это его же и сознание
Кстати да, как только увидел рисунки нейросетей, тоже обратил внимание, что подозрительно на мои сны походит...
Я измененными состояниями сознания когда то увлекался, осознанные сны, астрал.. это не мистика и очень интересные способности мозга открываются. Иногда я выходил на такой режим в полусне когда просто один в один как ИИ видео генерируются бессмысленные образы переходящие из одного в другое. Обычно лица как в тех некачественных похожих на ужасы видео с людьми . Я пугался вначале, потом стал рассматривать. Когда эти видео увидел то был в шоке. Видимо это какой-то побочный продукт интеллекта или типа того
Раньше люди встречали деву Марию, потом инопланетян... Сейчас с ними заговорила Алекса...
А есть похожие истории о наших голосовых помощниках (Алиса, Маруся)?
5 страшилок об искусственном интеллекте