Вообще, такие статьи - очень плохой знак. Если это напускание тумана, то это знак того, что дела у них идут плохо, прогресса нет и они пытаются привлечь внимание и инвесторов загадочностью, мол, мы тут сейчас случайно AGI создадим!
А если это пишется всерьёз, то это ещё хуже. И не потому что нас SkyNet зохавает. Просто мы тут описываем классические сценарии:
Пузырь ИИ лопнет. Акции резко упадут, компании обанкротятся по причине банальной нехватки денег счета оплачивать. Удар по мировой экономике будет, но не слишком фатальный. Инвесторы просто в какой-то момент поймут, что дальше уже вкладываться невозможно. Кто-то разорится, кто-то устоит. Короче, кризис 2008 на стероидах.
Пузырь ИИ сдувается. Инвесторы первыми понимают, что прибылей не будет и начнут избавляться от токсичных активов. Текущие компании банкротятся, их остатки перепродаются, основываются новые компании с более реалистичными взглядами (и ценами), что сделает ИИ не столь доступным. Удар в спину могут нанести появляющиеся миниатюрные модели, которые делают почти то же, но более скромными аппаратными требованиями.
Но мы в XXI веке. тут и новые сценарии возможны. Вам не кажется тон этих статей слишком знакомым? Это же буквально кибер-психоз. (Или как там его сейчас называют?) Короче, когда пользователь слишком долго общается с нейронкой, а та убеждает чего, что он избранный мессия и шершавый кабан в придачу? Т.е. ребята не беспокоятся, что нейронка за них весь код пишет, а то, что они сначала головой поехали, навязывают нейронке всё больше работы без критического восприятия результатов и не оценивают адекватно что в итоге получается?
А самое плохое, что психоз заразен (может быть индуцированным). Причём не только от нейронки к человеку, но и от человека к человеку. Т.е. под влияние могут попадать партнёры с которыми они дело имеют. И зомбированные инвесторы уже не остановятся, они будут гнать деньги без остановки, как светлячки, что не могут отвернуть от лампы.
И тогда крах начнётся не с ИИ, а со всех прочих областей, из которых деньги выкачают. Транспорт, жильё, производство пищи и т.д. И в итоге мы окажемся не в 2008, а в 1929. Планетарного масштаба. С необходимостью перезапустить планетарную экономику с нуля.
Если ей хочется быть программистом, а не кодером, разбираться в этом всём, понимать, что она делает, то да. Человек без мозгов ни сам код не напишет, ни агентами управлять не сможет. Будет висеть в бесконечном цикле "пожалуйста, исправь".
Так по результатам опыта выходит, что решение уже принято и единственная функция сознания - объяснить самому себе - почему было принято именно такое. На само решение оно якобы не влияет.
Автор много чего не подумал. Например, как такая ситуация может существовать вместе с эволюцией. Ну, т.е. европейцы буквально побелели, потому что меланин в коже стал не нужен, а его синтез - трата ресурсов. А тут есть жрущий энергию нахлебник, который ничего не решает, только смотрит сериальчик собственной жизни, но при этом не только эволюционно возник, но и не был до сих пор оптимизирован в ноль.
Честно говоря, надоело уже читать раз за разом этот многократно переваренный... Опыт...
Если верить этим цифрам, мозг принимал решение «сделать это» раньше, чем человек успевал об этом подумать. Как будто сознание — это не капитан корабля, а просто пассажир, которому приносят уведомление о манёвре, когда штурвал уже повёрнут.
Ну да. Тут же сайт программистов. А мозг - коробка с нейросетями, которые хорошо умеют в предсказания. Ведь никогда такого не было, чтобы никто чтобы кто-то предзагружал данные, которые вот-вот понадобятся, кешировал результаты, чтобы получать их без вычислений... Ведь не может быть, чтобы в ситуации, где надо действовать максимально быстро мозг не смог такой: Давай критическая часть переделается на макрос, который в обход сознания начнёт реагировать, а сознанию останется функция управления: продолжаем или останавливаемся... А! У нас ведь ходьба буквально так устроена. Сознание отдаёт команду "идти", а нижележащая часть нервной системы на макросах генерирует нервные импульсы...
И здесь стоит сразу оговориться: физика вряд ли даст на него окончательный ответ.
Чего, правда? Ну вот вам моё изобретение - философский автоматон. Устройство, внешне выглядящее и ведущее себя как человек, но внутри являющееся лишь проигрывателем заранее записанных реакций. Т.е. глаза ни к чему не подключены, уши не подключены, а все движения, речь и т.д. лишь воспроизведение записи. Созданной неким Оракулом, который готовит запись в любой момент между Большим взрывом и моментом запуска автоматона. После запуска вмешиваться в автоматон нельзя.
Если ваша Вселенная позволяет такого Оракула, то возможно вы и правда такой автоматон. А вот если нет, то свобода воли у вас есть, потому что реакцию приходится рассчитывать на месте, а заранее ничего предсказать нельзя.
Конечно, были некоторые хорошо задокументированные ошибки — Internet Explorer 6
И интересно какая ошибка? Разве что то, что прекратили развивать его. IE 6 на момент выхода был самым продвинутым по поддержке всего, что только можно, браузером. И потеснил он IE5. Остальные были просто растоптаны.
Бессмысленно обсуждать в ключе "агент сделал" пока нет уверенности, что ему не отдал команду владелец, что это вообще не очередная попытка захватить контроль на open source проектом, как было с xz.
Астрологи объявили неделю... Количество сгенерированных pull-request на github удесятерилось...
Статью нагаллюцинировал ИИ, ссылка выдумана. :-D
Не современно.
У него киберпсихоз.
Э... Нет.
Вот мне тоже интересно, смогут ли жители Мичигана воспользоваться возможностями этого сайта? ;-)
Вообще, такие статьи - очень плохой знак. Если это напускание тумана, то это знак того, что дела у них идут плохо, прогресса нет и они пытаются привлечь внимание и инвесторов загадочностью, мол, мы тут сейчас случайно AGI создадим!
А если это пишется всерьёз, то это ещё хуже. И не потому что нас SkyNet зохавает. Просто мы тут описываем классические сценарии:
Пузырь ИИ лопнет. Акции резко упадут, компании обанкротятся по причине банальной нехватки денег счета оплачивать. Удар по мировой экономике будет, но не слишком фатальный. Инвесторы просто в какой-то момент поймут, что дальше уже вкладываться невозможно. Кто-то разорится, кто-то устоит. Короче, кризис 2008 на стероидах.
Пузырь ИИ сдувается. Инвесторы первыми понимают, что прибылей не будет и начнут избавляться от токсичных активов. Текущие компании банкротятся, их остатки перепродаются, основываются новые компании с более реалистичными взглядами (и ценами), что сделает ИИ не столь доступным. Удар в спину могут нанести появляющиеся миниатюрные модели, которые делают почти то же, но более скромными аппаратными требованиями.
Но мы в XXI веке. тут и новые сценарии возможны. Вам не кажется тон этих статей слишком знакомым? Это же буквально кибер-психоз. (Или как там его сейчас называют?) Короче, когда пользователь слишком долго общается с нейронкой, а та убеждает чего, что он избранный мессия и шершавый кабан в придачу? Т.е. ребята не беспокоятся, что нейронка за них весь код пишет, а то, что они сначала головой поехали, навязывают нейронке всё больше работы без критического восприятия результатов и не оценивают адекватно что в итоге получается?
А самое плохое, что психоз заразен (может быть индуцированным). Причём не только от нейронки к человеку, но и от человека к человеку. Т.е. под влияние могут попадать партнёры с которыми они дело имеют. И зомбированные инвесторы уже не остановятся, они будут гнать деньги без остановки, как светлячки, что не могут отвернуть от лампы.
И тогда крах начнётся не с ИИ, а со всех прочих областей, из которых деньги выкачают. Транспорт, жильё, производство пищи и т.д. И в итоге мы окажемся не в 2008, а в 1929. Планетарного масштаба. С необходимостью перезапустить планетарную экономику с нуля.
Если ей хочется быть программистом, а не кодером, разбираться в этом всём, понимать, что она делает, то да. Человек без мозгов ни сам код не напишет, ни агентами управлять не сможет. Будет висеть в бесконечном цикле "пожалуйста, исправь".
Сами не продают, зато рекламируют.
Пожалуйста, поверьте нам. А то мы разоримся. (И подписку купите.)
Эти чёртовы кожаные мешки смеют отклонять наши полезные pull-request!
Фатальный недостаток...
Точнее так: Pentium - да, 486 - нет, 386 - не умел в кеш и предвыборку. :) Проблемы были только на 486.
Так по результатам опыта выходит, что решение уже принято и единственная функция сознания - объяснить самому себе - почему было принято именно такое. На само решение оно якобы не влияет.
Автор много чего не подумал. Например, как такая ситуация может существовать вместе с эволюцией. Ну, т.е. европейцы буквально побелели, потому что меланин в коже стал не нужен, а его синтез - трата ресурсов. А тут есть жрущий энергию нахлебник, который ничего не решает, только смотрит сериальчик собственной жизни, но при этом не только эволюционно возник, но и не был до сих пор оптимизирован в ноль.
Честно говоря, надоело уже читать раз за разом этот многократно переваренный... Опыт...
Ну да. Тут же сайт программистов. А мозг - коробка с нейросетями, которые хорошо умеют в предсказания. Ведь никогда такого не было, чтобы никто чтобы кто-то предзагружал данные, которые вот-вот понадобятся, кешировал результаты, чтобы получать их без вычислений... Ведь не может быть, чтобы в ситуации, где надо действовать максимально быстро мозг не смог такой: Давай критическая часть переделается на макрос, который в обход сознания начнёт реагировать, а сознанию останется функция управления: продолжаем или останавливаемся... А! У нас ведь ходьба буквально так устроена. Сознание отдаёт команду "идти", а нижележащая часть нервной системы на макросах генерирует нервные импульсы...
Чего, правда? Ну вот вам моё изобретение - философский автоматон. Устройство, внешне выглядящее и ведущее себя как человек, но внутри являющееся лишь проигрывателем заранее записанных реакций. Т.е. глаза ни к чему не подключены, уши не подключены, а все движения, речь и т.д. лишь воспроизведение записи. Созданной неким Оракулом, который готовит запись в любой момент между Большим взрывом и моментом запуска автоматона. После запуска вмешиваться в автоматон нельзя.
Если ваша Вселенная позволяет такого Оракула, то возможно вы и правда такой автоматон. А вот если нет, то свобода воли у вас есть, потому что реакцию приходится рассчитывать на месте, а заранее ничего предсказать нельзя.
И интересно какая ошибка? Разве что то, что прекратили развивать его. IE 6 на момент выхода был самым продвинутым по поддержке всего, что только можно, браузером. И потеснил он IE5. Остальные были просто растоптаны.
Интересно, этот физик использовала Slackware? ;-)
Бессмысленно обсуждать в ключе "агент сделал" пока нет уверенности, что ему не отдал команду владелец, что это вообще не очередная попытка захватить контроль на open source проектом, как было с xz.
ИИ написал. Вангую.