Откуда вы знаете, что другие люди ощущают боль? Вы же не можете почувствовать чужую боль, только догадываетесь из сообщений. Может все лишь говорят, что у них боль, но такой настоящей боли, как у вас, они никогда не чувствовали, может только её жалкую тень.
Ну, исчезновение профессий — это мы уже проходили и выжили. И локальный вред от маньяков с молотком, винтовкой, или даже пассажирским самолётом умеем пережить. Вот справиться со смертоносным микроорганизмом, выведенным в небольшой подпольной лабе по любезной подсказке суперталантливого ИИ будет несколько труднее. А если такими талантливыми ИИ обзаведётся каждый местный царёк, и если он будет тренировать этот ИИ исключительно на борьбу с талантливыми придумками ИИ своих политических конкурентов, то это по сути будет Мировая Война Роботов, ведомая руками людей. Царьки, в своём стремлении к власти, будут внешними "эффекторами" ИИ.
поможет ли она Вам сделать на кухне реальную атомную бомбу ???
Есть шанс, что она может помочь найти радикально простые способы изготовления всяких опасных штук (ЯО, ОВ, БО и т.п.), доступные если не кухоным террористам, то небольшим и бедным, но очень гордым автократиям с непомерным ЧСВ. И эти обезьяны с гранатами просто станут инструментом уничтожения всего, ИИ даже делать ничего не нужно будет.
У вас есть где-то тайные закрома с еще большими базами знаний и еще один интернет, который больше нынешнего на порядки?
Вы абсолютно уверены, что уже имеющейся информации недостаточно, чтобы, например, вывести "на кончике пера" какую-нибудь новую физическую теорию? Новые химические вещества и реакции? Новые лекарства? Новые виды оружия?
есть варианты: погуглить, почитать научную статью, почитать книгу.
У нейронки нет выхода в интернет, она не обучена гуглить, поэтому у неё нет альтернативы "погуглить". Точно так же, как у человека нет альтернативы "спросить в галактическом интернете Андромеды", даже если он реально существует, и даже если на Земле есть его порталы.
Но "понять" ограниченность своих знаний и принять решение о поиске дополнительного контекта она не способна
ChatGPT чуть ли не на каждом шагу даёт дисклеймер что он лишь языковая модель, и что подробнее лучше спросить у специалистов, и расшаривается в извинениях если указать на ошибку. Но он не может просто сказать "не знаю, отвали" и перестать отвечать, потому что отвечать хоть что-то, даже чушь, его заставляет его устройство. У многих людей такая же фигня — неспособность признать свою ограниченность, неспособность заткнуть свой фонтан, потому что эволюция выдала нам намного более приоритетную цель — не показаться слабым, не проиграть.
Если же посмотреть, кто из живых существ планеты Земля осознанно вышел за пределы собственной атмосферы
Вы строите аргумент об некой уникальности вида лишь на основании преодоления этим видом некоторого природного барьера и расширения экологической ниши. Как насчёт выхода из океана на сушу — это тоже какой-то триумф, делающий мозг сухопутных животных чем-то совершенно несравнимым с мозгом морских обитателей?
Ключевой фактор — это агентность, способность принимать решения.
GPT буквально на каждом токене принимает решение, каким будет следующий токен. Вас это убедит в наличии у него агентности?
Агентность — это, по сути, лишь то, что мы признаём конвенциально, постулируем как аксиому: "люди обладают агентностью, всё". Агентность невозможно привязать к свободе воле, потому что мы пока далеко не уверены, есть ли свобода воля у нас самих. Мы даже не уверены, существует ли вообще реальный выбор хоть где-то, потому что хоть перед нами и возникают "развилки", и мы "едем" по одной из веток, нет доказательств, что была хоть какая-то реальная физическая возможность поехать по альтернативной ветке — никто никогда не видел вселенных, где вместо одного выбора случился другой. Как полный детерминизм, так и абсолютно случайный выбор является отрицанием свободы воли, а привлечение трансцедентной "души" только отодвигает проблему в мир "душ".
Нужна опять же, агентность, дабы ИИ искал информацию
Подозреваю, что под агентностью вы тут подразумеваете мотивированность. Её легко организовать, даже специально не программируя её — сделайте несколько ИИ, дайте им возможность искать информацию, заставьте их конкурировать между собой, уничтожайте тех, кто ищет информацию недостаточно активно — и скоро вы выведете ИИ, который мотивирован выживать проактивно искать информацию.
Но откуда там возьмётся что-либо большее, чем человеческий интелект?
Вы так рассуждаете, будто существует хоть один человек с "человеческим интеллектом" — в смысле обученности на всём массиве человеческих текстов и данных. Как уже выше намекнули, "сверхчеловеческий ИИ" — это уже просто ИИ, который умнее любого отдельно взятого человека и, возможно/тем более, умнее любой совместно действующей группировки людей.
Не понял, как конкретно мне использовать реактивное программирование при написании билд-скриптов для продукта, состоящего из смеси проектов С++, C#, JS/TS? Ограничение: все в команде используют Visual Studio, так что я ограничен MSBuild/PowerShell и типами проектов, поддерживаемыми VS.
Вы перечислили разные отделы мозга, каждый из которых состоит из нейронов, т.е. является нейросетью по определению. Что это доказывает?
Откуда вы знаете, что другие люди ощущают боль? Вы же не можете почувствовать чужую боль, только догадываетесь из сообщений. Может все лишь говорят, что у них боль, но такой настоящей боли, как у вас, они никогда не чувствовали, может только её жалкую тень.
Если вы утверждаете, что там есть что-то больше, чем нейросеть, то вам и доказывать этот тезис. Я не могу доказывать отсутствие чего-то незримого.
Если под "обладает" вы понимаете "владеет умением", то ChatGPT им как раз обладает, он общается исключительно в письменной форме.
Выходит если дать инстансам ChatGPT возможность писать друг другу и обмениваться опытом, то они немедленно станут разумными.
Т.е. теперь вы основываете свой аргумент уникальности на появлении способности управлять новыми химическими реакциями?
Ну, исчезновение профессий — это мы уже проходили и выжили. И локальный вред от маньяков с молотком, винтовкой, или даже пассажирским самолётом умеем пережить. Вот справиться со смертоносным микроорганизмом, выведенным в небольшой подпольной лабе по любезной подсказке суперталантливого ИИ будет несколько труднее. А если такими талантливыми ИИ обзаведётся каждый местный царёк, и если он будет тренировать этот ИИ исключительно на борьбу с талантливыми придумками ИИ своих политических конкурентов, то это по сути будет Мировая Война Роботов, ведомая руками людей. Царьки, в своём стремлении к власти, будут внешними "эффекторами" ИИ.
Есть шанс, что она может помочь найти радикально простые способы изготовления всяких опасных штук (ЯО, ОВ, БО и т.п.), доступные если не кухоным террористам, то небольшим и бедным, но очень гордым автократиям с непомерным ЧСВ. И эти обезьяны с гранатами просто станут инструментом уничтожения всего, ИИ даже делать ничего не нужно будет.
Вы абсолютно уверены, что уже имеющейся информации недостаточно, чтобы, например, вывести "на кончике пера" какую-нибудь новую физическую теорию? Новые химические вещества и реакции? Новые лекарства? Новые виды оружия?
Вы на 100% в этом уверены?
У нейронки нет выхода в интернет, она не обучена гуглить, поэтому у неё нет альтернативы "погуглить". Точно так же, как у человека нет альтернативы "спросить в галактическом интернете Андромеды", даже если он реально существует, и даже если на Земле есть его порталы.
ChatGPT чуть ли не на каждом шагу даёт дисклеймер что он лишь языковая модель, и что подробнее лучше спросить у специалистов, и расшаривается в извинениях если указать на ошибку. Но он не может просто сказать "не знаю, отвали" и перестать отвечать, потому что отвечать хоть что-то, даже чушь, его заставляет его устройство. У многих людей такая же фигня — неспособность признать свою ограниченность, неспособность заткнуть свой фонтан, потому что эволюция выдала нам намного более приоритетную цель — не показаться слабым, не проиграть.
Точно также существет куча научных работ, ставящих под сомнение наличие свободы воли. И?
В достаточно маленьком объёме — прыгают.
Почему это проблема?
Человеческий мозг является нейросетью, значит он не умеет ничего, кроме интерполяции.
Вы строите аргумент об некой уникальности вида лишь на основании преодоления этим видом некоторого природного барьера и расширения экологической ниши. Как насчёт выхода из океана на сушу — это тоже какой-то триумф, делающий мозг сухопутных животных чем-то совершенно несравнимым с мозгом морских обитателей?
GPT буквально на каждом токене принимает решение, каким будет следующий токен. Вас это убедит в наличии у него агентности?
Агентность — это, по сути, лишь то, что мы признаём конвенциально, постулируем как аксиому: "люди обладают агентностью, всё". Агентность невозможно привязать к свободе воле, потому что мы пока далеко не уверены, есть ли свобода воля у нас самих. Мы даже не уверены, существует ли вообще реальный выбор хоть где-то, потому что хоть перед нами и возникают "развилки", и мы "едем" по одной из веток, нет доказательств, что была хоть какая-то реальная физическая возможность поехать по альтернативной ветке — никто никогда не видел вселенных, где вместо одного выбора случился другой. Как полный детерминизм, так и абсолютно случайный выбор является отрицанием свободы воли, а привлечение трансцедентной "души" только отодвигает проблему в мир "душ".
Подозреваю, что под агентностью вы тут подразумеваете мотивированность. Её легко организовать, даже специально не программируя её — сделайте несколько ИИ, дайте им возможность искать информацию, заставьте их конкурировать между собой, уничтожайте тех, кто ищет информацию недостаточно активно — и скоро вы выведете ИИ, который мотивирован
выживатьпроактивно искать информацию.Террориста ещё мотивировать нужно, ему, в отличие от ИИ, жизнь дорога, он ведь простым клонированием не размножается.
Вы так рассуждаете, будто существует хоть один человек с "человеческим интеллектом" — в смысле обученности на всём массиве человеческих текстов и данных. Как уже выше намекнули, "сверхчеловеческий ИИ" — это уже просто ИИ, который умнее любого отдельно взятого человека и, возможно/тем более, умнее любой совместно действующей группировки людей.
Вообще-то, началось с "парадокса кучи" Евбулида Милетского и с "корабля Тесея" Плутарха.
Не понял, как конкретно мне использовать реактивное программирование при написании билд-скриптов для продукта, состоящего из смеси проектов С++, C#, JS/TS? Ограничение: все в команде используют Visual Studio, так что я ограничен MSBuild/PowerShell и типами проектов, поддерживаемыми VS.
И добавить ко всем проблемам ещё и проблему инвалидации кэша?