Откуда вы знаете, что другие люди ощущают боль? Вы же не можете почувствовать чужую боль, только догадываетесь из сообщений. Может все лишь говорят, что у них боль, но такой настоящей боли, как у вас, они никогда не чувствовали, может только её жалкую тень.
Ну, исчезновение профессий — это мы уже проходили и выжили. И локальный вред от маньяков с молотком, винтовкой, или даже пассажирским самолётом умеем пережить. Вот справиться со смертоносным микроорганизмом, выведенным в небольшой подпольной лабе по любезной подсказке суперталантливого ИИ будет несколько труднее. А если такими талантливыми ИИ обзаведётся каждый местный царёк, и если он будет тренировать этот ИИ исключительно на борьбу с талантливыми придумками ИИ своих политических конкурентов, то это по сути будет Мировая Война Роботов, ведомая руками людей. Царьки, в своём стремлении к власти, будут внешними "эффекторами" ИИ.
поможет ли она Вам сделать на кухне реальную атомную бомбу ???
Есть шанс, что она может помочь найти радикально простые способы изготовления всяких опасных штук (ЯО, ОВ, БО и т.п.), доступные если не кухоным террористам, то небольшим и бедным, но очень гордым автократиям с непомерным ЧСВ. И эти обезьяны с гранатами просто станут инструментом уничтожения всего, ИИ даже делать ничего не нужно будет.
У вас есть где-то тайные закрома с еще большими базами знаний и еще один интернет, который больше нынешнего на порядки?
Вы абсолютно уверены, что уже имеющейся информации недостаточно, чтобы, например, вывести "на кончике пера" какую-нибудь новую физическую теорию? Новые химические вещества и реакции? Новые лекарства? Новые виды оружия?
есть варианты: погуглить, почитать научную статью, почитать книгу.
У нейронки нет выхода в интернет, она не обучена гуглить, поэтому у неё нет альтернативы "погуглить". Точно так же, как у человека нет альтернативы "спросить в галактическом интернете Андромеды", даже если он реально существует, и даже если на Земле есть его порталы.
Но "понять" ограниченность своих знаний и принять решение о поиске дополнительного контекта она не способна
ChatGPT чуть ли не на каждом шагу даёт дисклеймер что он лишь языковая модель, и что подробнее лучше спросить у специалистов, и расшаривается в извинениях если указать на ошибку. Но он не может просто сказать "не знаю, отвали" и перестать отвечать, потому что отвечать хоть что-то, даже чушь, его заставляет его устройство. У многих людей такая же фигня — неспособность признать свою ограниченность, неспособность заткнуть свой фонтан, потому что эволюция выдала нам намного более приоритетную цель — не показаться слабым, не проиграть.
Забавно, что вы отказываете в интеллекте даже вроде бы технически-грамотным инженерам. Что уж говорить об остальных людях.
Руки вполне могут быть человеческие. ИИ может просто придумать нам оружие, которым мы друг друга и перебьём, это мы прекрасно сами умеем.
Статью не читай, комментируй.
А вы увернулись от ответа на мой вопрос. Хорошо, задам его заново, с вашей несомненно важной поправкой. Итак:
Теперь вы основываете свой аргумент уникальности на появлении способности управлять новыми
химическими реакциямифизическими процессами?Я же написал: мозг состоит из нейронов, объединённых в сеть, значит он по-определению является нейронной сетью. Что тут доказывать — определение?
То, что у этой нейросети можно выделить области, не делает её не-нейросетью.
Т.е. совокупность нейросетей способна к большему, чем просто интерполяции?
Плавят руду, чистое железо же из неё получают восстановлением из окислов, что есть химическая реакция.
В смысле, осилит команду "copy"?
Вы перечислили разные отделы мозга, каждый из которых состоит из нейронов, т.е. является нейросетью по определению. Что это доказывает?
Откуда вы знаете, что другие люди ощущают боль? Вы же не можете почувствовать чужую боль, только догадываетесь из сообщений. Может все лишь говорят, что у них боль, но такой настоящей боли, как у вас, они никогда не чувствовали, может только её жалкую тень.
Если вы утверждаете, что там есть что-то больше, чем нейросеть, то вам и доказывать этот тезис. Я не могу доказывать отсутствие чего-то незримого.
Если под "обладает" вы понимаете "владеет умением", то ChatGPT им как раз обладает, он общается исключительно в письменной форме.
Выходит если дать инстансам ChatGPT возможность писать друг другу и обмениваться опытом, то они немедленно станут разумными.
Т.е. теперь вы основываете свой аргумент уникальности на появлении способности управлять новыми химическими реакциями?
Ну, исчезновение профессий — это мы уже проходили и выжили. И локальный вред от маньяков с молотком, винтовкой, или даже пассажирским самолётом умеем пережить. Вот справиться со смертоносным микроорганизмом, выведенным в небольшой подпольной лабе по любезной подсказке суперталантливого ИИ будет несколько труднее. А если такими талантливыми ИИ обзаведётся каждый местный царёк, и если он будет тренировать этот ИИ исключительно на борьбу с талантливыми придумками ИИ своих политических конкурентов, то это по сути будет Мировая Война Роботов, ведомая руками людей. Царьки, в своём стремлении к власти, будут внешними "эффекторами" ИИ.
Есть шанс, что она может помочь найти радикально простые способы изготовления всяких опасных штук (ЯО, ОВ, БО и т.п.), доступные если не кухоным террористам, то небольшим и бедным, но очень гордым автократиям с непомерным ЧСВ. И эти обезьяны с гранатами просто станут инструментом уничтожения всего, ИИ даже делать ничего не нужно будет.
Вы абсолютно уверены, что уже имеющейся информации недостаточно, чтобы, например, вывести "на кончике пера" какую-нибудь новую физическую теорию? Новые химические вещества и реакции? Новые лекарства? Новые виды оружия?
Вы на 100% в этом уверены?
У нейронки нет выхода в интернет, она не обучена гуглить, поэтому у неё нет альтернативы "погуглить". Точно так же, как у человека нет альтернативы "спросить в галактическом интернете Андромеды", даже если он реально существует, и даже если на Земле есть его порталы.
ChatGPT чуть ли не на каждом шагу даёт дисклеймер что он лишь языковая модель, и что подробнее лучше спросить у специалистов, и расшаривается в извинениях если указать на ошибку. Но он не может просто сказать "не знаю, отвали" и перестать отвечать, потому что отвечать хоть что-то, даже чушь, его заставляет его устройство. У многих людей такая же фигня — неспособность признать свою ограниченность, неспособность заткнуть свой фонтан, потому что эволюция выдала нам намного более приоритетную цель — не показаться слабым, не проиграть.
Точно также существет куча научных работ, ставящих под сомнение наличие свободы воли. И?
В достаточно маленьком объёме — прыгают.
Почему это проблема?
Человеческий мозг является нейросетью, значит он не умеет ничего, кроме интерполяции.