Если честно, то я вижу реальную опасность ChatGPT в другом - в его привлекательности для людей. Вести диалог с машиной (подобно, как мы его ведем друг с другом) - что может быть лучше этого? Не надо больше заниматься малопонятным программированием (оно непонятно для большинства людей, скажем честно). Достаточно будет сказать: Чат, сделай то-то и то-то - и он сделает. Люди станут встраивать его во всякие гаджеты, в системы управления "умным домом", в медицинские гаджеты. А он - станет собирать, аккумулировать в себе эту разнообразную информацию о людях. Дальше классифицировать, разбирать по полочкам. Человек сам, играючи, в диалоге, расскажет ему все о себе. Он будет знать о наших семьях ("умный дом", всякие "умные колонки"), о наших болезнях (медицинские гаджеты), о наших пристрастиях (диалог с ним). Вот в этом его реальная опасность, как мне кажется. Со временем (не скажу, что прямо сейчас, вовсе нет. Но, скажем, лет через десять-пятнадцать) он станет таким монстром, что киношный, придуманный Скайнет покажется безобидным щенком. Он будет послушным, послушнейшим инструментом в руках "сильных мира сего". В руках властей. Он не сам по себе (все-таки, он - машина), но превосходнейший инструмент, каких мир еще не видел. Он станет выдавать властям неугодных людей. Он расскажет властям о таких людях все, что знает. От него нельзя будет спрятаться. А пока - только начало нового мира. Все сказанное - мое личное мнение.
"Если программа из компа нанимает человека для того, что бы достичь цели, да еще и умело врет"... Да ведь эту программу просто попросили так сделать. Это не ее желание, а желание человека. А она сделала то, что ее попросили.
Ваш компьютер тоже делает только то что вы его попросите.
"мы хотели подробнее обсудить и проблемы контроля за искусственным интеллектом, и жадность корпораций, которые в высококонкурентной погоне за прибылью могут случайно родить ИИ‑Франкенштейна, и сложные философские вопросы вроде «можно ли считать, что нейросеть умеет мыслить, или всё же нет?»."
Большое спасибо за статью. Конечно, хотелось бы побольше подобных статей по теме с ответами на эти вопросы.
Задание для ChatGPT дал человек, Чат решил это задание. У Чата нет собственных желаний и устремлений. В общем, бояться его стоит не более, чем автомобиля, за рулем которого может оказаться не вполне адекватный человек (и тогда автомобиль становится причиной убийства. Но мы же не скажем, что это сам автомобиль захотел убить человека). А вот поэксплуатируют Чат всякие люди с недоброй совестью сейчас очень сильно.
Если честно, то я вижу реальную опасность ChatGPT в другом - в его привлекательности для людей. Вести диалог с машиной (подобно, как мы его ведем друг с другом) - что может быть лучше этого? Не надо больше заниматься малопонятным программированием (оно непонятно для большинства людей, скажем честно). Достаточно будет сказать: Чат, сделай то-то и то-то - и он сделает. Люди станут встраивать его во всякие гаджеты, в системы управления "умным домом", в медицинские гаджеты. А он - станет собирать, аккумулировать в себе эту разнообразную информацию о людях. Дальше классифицировать, разбирать по полочкам. Человек сам, играючи, в диалоге, расскажет ему все о себе. Он будет знать о наших семьях ("умный дом", всякие "умные колонки"), о наших болезнях (медицинские гаджеты), о наших пристрастиях (диалог с ним). Вот в этом его реальная опасность, как мне кажется. Со временем (не скажу, что прямо сейчас, вовсе нет. Но, скажем, лет через десять-пятнадцать) он станет таким монстром, что киношный, придуманный Скайнет покажется безобидным щенком.
Он будет послушным, послушнейшим инструментом в руках "сильных мира сего". В руках властей. Он не сам по себе (все-таки, он - машина), но превосходнейший инструмент, каких мир еще не видел.
Он станет выдавать властям неугодных людей. Он расскажет властям о таких людях все, что знает. От него нельзя будет спрятаться.
А пока - только начало нового мира.
Все сказанное - мое личное мнение.
"Если программа из компа нанимает человека для того, что бы достичь цели, да еще и умело врет"...
Да ведь эту программу просто попросили так сделать. Это не ее желание, а желание человека. А она сделала то, что ее попросили.
Ваш компьютер тоже делает только то что вы его попросите.
"мы хотели подробнее обсудить и проблемы контроля за искусственным интеллектом, и жадность корпораций, которые в высококонкурентной погоне за прибылью могут случайно родить ИИ‑Франкенштейна, и сложные философские вопросы вроде «можно ли считать, что нейросеть умеет мыслить, или всё же нет?»."
Большое спасибо за статью.
Конечно, хотелось бы побольше подобных статей по теме с ответами на эти вопросы.
Вроде "проблемы вагонетки"? Думаю, что никаких натурных экспериментов не будет.
Это только люди не жалеют лабораторных животных. ИИ не таков.
Наоборот, интересно. В кои-то веки фантастика стала реальностью.
Вот эта новость:
https://habr.com/ru/news/t/719360/
Мне кажется, что выливать ведро воды на работающий сервер - это варварство.
К тому же есть немало способов разрушить...
Задание для ChatGPT дал человек, Чат решил это задание.
У Чата нет собственных желаний и устремлений.
В общем, бояться его стоит не более, чем автомобиля, за рулем которого может оказаться не вполне адекватный человек (и тогда автомобиль становится причиной убийства. Но мы же не скажем, что это сам автомобиль захотел убить человека).
А вот поэксплуатируют Чат всякие люди с недоброй совестью сейчас очень сильно.