да я о мотивации. если (когда) получится создать AGI - по определению самосознающий ИИ, то есть являющийся субъектом, в этот самый момент ИИ перестанет работать по принципу "поставили задачу - исполнил". Поскольку субъекты в такой парадигме крайне плохи.
Придётся применять ту же парадигму, что с прочими субъектами: создаём среду, побуждающую к... Получаем статистический результат.
И в этом же месте ИИ утратит всезнание. Ибо одному субъекту интересна физика, но неинтересная музыка. Другому - наоборот. И это только первый фактор
вторым фактором здесь будет то, что постоянно работающий механизм (само)обучения приводит к тому, что субъект забывает часть вещей, которые ему повседневно не нужны (которыми повседневно не занимается).
почему не нужно? Менее актуально к звёздам лететь - да (Можно заселять не только планеты с нашим климатом, но и Марс с Венерой вполне подойдут. А глядишь подальше и Юпитер тоже на каком-то этапе.) Но с точки зрения обеспечения сохранности вида, межзвёздный бакап - штука, которую признает полезной любой разумный.
А то что войны между разумными никуда не денутся, даже если эти самые разумные сделают скачок в своём развитии - тоже, кажется, очевидно.
человек - промежуточный вид в цепи эволюции при переходе от биоформ жизни к кристаллическим. и в этом ничего плохого нет: зато новые формы жизни благодаря фичам (возможность отключаться, работать ускоренно и транслировать себя по радиоканалу) смогут преодолеть межзвёздный барьер.
ну да, и я говорю о том, что поскольку общая направленность статьи (не самой статьи а описывающих события) "против ИИ", то исход может быть именно против ИИ. То, что нужно лечить "кукуху" - никто не вспомнит.
То, что по логике здесь можно обращать свой гнев не только в сторону ИИ (а и в сторону, например, компьютеров) - никто не вспомнит.
Законодатели если машут шашкой то в ту сторону, с которой можно струсить денежек и в которой всё понятно.
вне синтаксиса goto находился какое-то время в ассемблере, но и в нём быстро пришли к ограниченным скоупам
и с тех пор, лет уж, наверное 30-40, goto давно в синтаксисе
задачи связанного взятия-высвобожения ресурсов, стейтмашины, однопроходные парсеры — всё это задачи, где goto повышает и быстродействие и читабельность кода
goto как и любой молоток - очень хорош, если его применять по назначению и очень плох, если бить им по пальцам.
А современная тенденция "запретим молотки только потому, что им можно ударить себе по колену" - есть торжество зла в чистой форме. Этак мы до священной инквизиции дойдём.
в современное время ограничение текста шириной 80 символов так же имеет смысл:
как только происходит работа в команде, как только начинают смотреть diff'ы и меняться ими (предлагать, прилагать итп) внутри тикетов и писем, как только diff'ы начинают просматриваться человеком, так сразу в команде выносится решение о том, что текст не должен превышать 80 символов в строке.
да я о мотивации. если (когда) получится создать AGI - по определению самосознающий ИИ, то есть являющийся субъектом, в этот самый момент ИИ перестанет работать по принципу "поставили задачу - исполнил". Поскольку субъекты в такой парадигме крайне плохи.
Придётся применять ту же парадигму, что с прочими субъектами: создаём среду, побуждающую к... Получаем статистический результат.
И в этом же месте ИИ утратит всезнание. Ибо одному субъекту интересна физика, но неинтересная музыка. Другому - наоборот. И это только первый фактор
вторым фактором здесь будет то, что постоянно работающий механизм (само)обучения приводит к тому, что субъект забывает часть вещей, которые ему повседневно не нужны (которыми повседневно не занимается).
вы можете за другого человека определить его цели? или допустить, что кто-то за Вас их определяет?
$ sudo apt install uqm
почему не нужно? Менее актуально к звёздам лететь - да (Можно заселять не только планеты с нашим климатом, но и Марс с Венерой вполне подойдут. А глядишь подальше и Юпитер тоже на каком-то этапе.) Но с точки зрения обеспечения сохранности вида, межзвёздный бакап - штука, которую признает полезной любой разумный.
А то что войны между разумными никуда не денутся, даже если эти самые разумные сделают скачок в своём развитии - тоже, кажется, очевидно.
человек - промежуточный вид в цепи эволюции при переходе от биоформ жизни к кристаллическим. и в этом ничего плохого нет: зато новые формы жизни благодаря фичам (возможность отключаться, работать ускоренно и транслировать себя по радиоканалу) смогут преодолеть межзвёздный барьер.
это стоит всего остального, как по мне.
в цензуре, которая непременно запретит это благое начинание - как только пользователей станет достаточно много.
ну да, и я говорю о том, что поскольку общая направленность статьи (не самой статьи а описывающих события) "против ИИ", то исход может быть именно против ИИ. То, что нужно лечить "кукуху" - никто не вспомнит.
То, что по логике здесь можно обращать свой гнев не только в сторону ИИ (а и в сторону, например, компьютеров) - никто не вспомнит.
Законодатели если машут шашкой то в ту сторону, с которой можно струсить денежек и в которой всё понятно.
что можно предсказать: законодатели, если обратят внимание на этот случай, не станут запрещать компьютеры, они будут вводить ограничения против ИИ
хотя здесь и компьютер, и ИИ являются инструментами для э... булинга "жертвы"
(ц) классика
нужно идти дальше: CADы, например FreeCAD, SolidWorks и прочие Компасы не должны открывать файлы, похожие на модели оружия!
Такъ победимъ!
а какой у этого всего практический смысл?
принципиально невозможно на данном уровне развития, чтобы модель в процессе работы чему-то научилась, например, говорить матом
скопить бд измерений - да
искать что-то по этой бд - да
но не более того
если в конфигурационном промпте напишете, то будет
клиент, запрос 1 -> ваш промпт с указанием материться -> модель -> ответ 1 с матами
клиент, запрос 2 -> ваш промпт с указанием материться + запрос 1 + ответ 1 -> модель -> ответ 2 с матами
как-то так это работает
решение перестанет выполнять возложенные на него функции уже на втором клиенте
соответственно, нереалистичный случай
принципиально невозможно на текущем уровне развития ИИ
когда изобретут AGI, у которого будет способность к перманентному обучению — тогда,
но не раньше
не может быть такого, поскольку с новым клиентом всегда используется новый пустой контекст
соответственно хоть как долго матерился клиент 1, это никак не влияет на диалог с клиентом 2
современные модели не дообучаются при внедрении
подобное описанному в статье невозможно
вне синтаксиса goto находился какое-то время в ассемблере, но и в нём быстро пришли к ограниченным скоупам
и с тех пор, лет уж, наверное 30-40, goto давно в синтаксисе
задачи связанного взятия-высвобожения ресурсов, стейтмашины, однопроходные парсеры — всё это задачи, где goto повышает и быстродействие и читабельность кода
goto как и любой молоток - очень хорош, если его применять по назначению и очень плох, если бить им по пальцам.
А современная тенденция "запретим молотки только потому, что им можно ударить себе по колену" - есть торжество зла в чистой форме. Этак мы до священной инквизиции дойдём.
в современное время ограничение текста шириной 80 символов так же имеет смысл:
как только происходит работа в команде, как только начинают смотреть diff'ы и меняться ими (предлагать, прилагать итп) внутри тикетов и писем, как только diff'ы начинают просматриваться человеком, так сразу в команде выносится решение о том, что текст не должен превышать 80 символов в строке.
как-то так