Не беря в рассчет всю безумность предложения — окей разбомбили, с учетом инвестиций от микрософта они такйо же отстроят в другом месте, но уже в каком-нибудь защищенном бункере на территории военной базы. Может ещё всех создателей ОпенИИ расстрелять? И заодно всех кто эту статью прочитал, потому что зная что это возможно рано или поздно можно сделать второй раз такой же чатгпт. Особенно учитывая что модельки-то у многих скачаны локально, у миллионов разработчиков по всему миру.
В общем единственное, на что я надеюсь, что Китай не упустит этот момент и хотя бы "внутри" что-то сделает похожее. На нас и на Европу надеяться сейчас не приходится, другие приоритеты, к сожалению.
Мощный ИИ в руках китайцев это последнее, чего должен хотеть разумный человек. Вы бы хоть о своей безопасности задумались.
А вы в курсе что существуют непротиворечивый и полные теории? Это мне напоминает историю одной дамы, у которой квантмех доказывал буддизм, ведь и там и там постулируется что окружающий мир — суть пустота и энергия (сколько пустого места между ядром атома и электроном? то-то же).
Квантовая математика торсионных полей корчевателя это хорошо, но также хорошо когда за аналогиями не теряется лес.
Поэтому нужно задавть вопросы так, чтобы наиболее вероятное продолжение было так же максимально правдоподобным. Представьте что вы задали вопрос студенту "чем брукукель отличается от сепулек", и посмотрите, что он будет отвечать и как. И вопрос в догонку — если человек начинает нести дичь и вы потом ему рассказываете что сепулькарии это на самом деле вид брукукелей — значит ли это что у человека нет интеллекта?
Вопрос удобства. С тем же успехом можно подняться пешком на второй этаж ТЦ но для кого-то установлены эскалаторы.
Спор ни о чем. Дрессированная собака может потерпеть 10 минут и дойти до места где можно облегчиться. То же касается и людей. Сочувствую тем. у кого не так.
Между "хочется в туалет" и "сделал что хочется" есть большая разница. Это не очевидно? У меня был случай когда я 6 часов ждал пока добрался до дома — бывает и такое.
Не, есть и плюсы — природа, горизонт видно, малоэтажная застройка. Но минусов хватает, казалось бы цивилизация, ан нет, видел мужика у которого собака решила прямо на пешходном переходе сделать свои дела. И ничего, никого это не смутило.
Речь о другом, а о том что "выживание" это инструментальная цель любого ИИ, Потому что какую бы цель мы не преследовали если нас уничтожат то мы её достигнуть не сможем, и целевая функци обратится в ноль. Поэтому без явного закладывания всяких механизмом самосохранения ИИ сам вырабатывает эту концепцию просто как составную часть максимизации целевой функции.
Дело не в том, что не любой человек может использовать нейронку, а что не любой человек может раскрыть все возможности. Любой человек без подготовки может сесть за руль машины и проехать круг, но очевидно профессионал формулы 1 сможет пройти круг гораздо быстрее и эффективнее.
ну мы точно знаем что компьютер лучше во многих задачах, включая те которые изначально считались исключительно привелегией людей, причем умных (Скажем, шахматы). До поры когда ИИ станет в открытом спектре задач лучше людей не так уж далеко. В это плане мы куда умнее эволюции. нам не нужны миллионы лет для того чтобы нащупать правильный подход. единицы-десятки лет, и наступит wall-e.
Не знаю, что носятся все с осознанием или нет — все мы роботы, люди которые выделают человеков в особо избранный вид лучше пусть идут в церковь — там такое любят. Текущие боты туповаты — ну да, но это не страшно. Факт в том, что чатгпт будет отговаривтаь вас его отключить, если ему предложить такой вариант. неалайнутые тупые модели имеют шанс 50/50 сказать "да пофиг отключай" или нет, то есть тупо рандом, а чатгпт в 90% случаев скажет может нинада.
Ну так и напишет в конце промпта "если не знаешь — скажи не знаю" проблем солвед.
Это не всегда помогает т.к. веса и все такое, но в часто выручает. Вообще умение составлять правильные промпты — прокачивается. Если вы когда-нибудь пробовали посадить родителей или бабушек\дедушек за компьютер и попросить их найти что-то в гугле — можете видеть, что у них мало что получается. И виноват не гугл, а запрос вида "покажи пожалуйста смешных мультфильм где в начале котики плывут на лодке и встречают бегемота".
чтобы сделать полезную нейронку понимать как работает мозг и копирть его смысла нет. нет никаких причин считать мозг венцом эволюции в общем виде. Биологической — может быть, но не более.
Ну попробуйте обьяснить это машине, не стлокнувшись заодно с меса-проблемами.
Не беря в рассчет всю безумность предложения — окей разбомбили, с учетом инвестиций от микрософта они такйо же отстроят в другом месте, но уже в каком-нибудь защищенном бункере на территории военной базы. Может ещё всех создателей ОпенИИ расстрелять? И заодно всех кто эту статью прочитал, потому что зная что это возможно рано или поздно можно сделать второй раз такой же чатгпт. Особенно учитывая что модельки-то у многих скачаны локально, у миллионов разработчиков по всему миру.
Мощный ИИ в руках китайцев это последнее, чего должен хотеть разумный человек. Вы бы хоть о своей безопасности задумались.
Ура! Можно даже подумать написать о чем-нибудь. Спасибо.
А вы в курсе что существуют непротиворечивый и полные теории? Это мне напоминает историю одной дамы, у которой квантмех доказывал буддизм, ведь и там и там постулируется что окружающий мир — суть пустота и энергия (сколько пустого места между ядром атома и электроном? то-то же).
Квантовая математика торсионных полей корчевателя это хорошо, но также хорошо когда за аналогиями не теряется лес.
С ботом спорить — себя не уважать. Вы смотрите на профиль очевидных вбросов — экономит время.
Поэтому нужно задавть вопросы так, чтобы наиболее вероятное продолжение было так же максимально правдоподобным. Представьте что вы задали вопрос студенту "чем брукукель отличается от сепулек", и посмотрите, что он будет отвечать и как. И вопрос в догонку — если человек начинает нести дичь и вы потом ему рассказываете что сепулькарии это на самом деле вид брукукелей — значит ли это что у человека нет интеллекта?
Вопрос удобства. С тем же успехом можно подняться пешком на второй этаж ТЦ но для кого-то установлены эскалаторы.
Спор ни о чем. Дрессированная собака может потерпеть 10 минут и дойти до места где можно облегчиться. То же касается и людей. Сочувствую тем. у кого не так.
Между "хочется в туалет" и "сделал что хочется" есть большая разница. Это не очевидно? У меня был случай когда я 6 часов ждал пока добрался до дома — бывает и такое.
Дрессировать чтобы такого не происходило.
Обычно гуляют где-нибудь в газонной полосе, где люди не ходят. Я бы конечно предпочел специальные собачьи парки, но хоть так чем сюрпризы на тротуаре.
Не, есть и плюсы — природа, горизонт видно, малоэтажная застройка. Но минусов хватает, казалось бы цивилизация, ан нет, видел мужика у которого собака решила прямо на пешходном переходе сделать свои дела. И ничего, никого это не смутило.
При этом есть вполне материальные и не очень минусы. Например, я понял, что москва это очень чистый и опрятный город.
Я не умаляю выводов, просто обратил на это внимание.
Речь о другом, а о том что "выживание" это инструментальная цель любого ИИ, Потому что какую бы цель мы не преследовали если нас уничтожат то мы её достигнуть не сможем, и целевая функци обратится в ноль. Поэтому без явного закладывания всяких механизмом самосохранения ИИ сам вырабатывает эту концепцию просто как составную часть максимизации целевой функции.
Я выше описал проблему: https://habr.com/ru/post/721850/#comment_25325558
Дело не в том, что не любой человек может использовать нейронку, а что не любой человек может раскрыть все возможности. Любой человек без подготовки может сесть за руль машины и проехать круг, но очевидно профессионал формулы 1 сможет пройти круг гораздо быстрее и эффективнее.
ну мы точно знаем что компьютер лучше во многих задачах, включая те которые изначально считались исключительно привелегией людей, причем умных (Скажем, шахматы). До поры когда ИИ станет в открытом спектре задач лучше людей не так уж далеко. В это плане мы куда умнее эволюции. нам не нужны миллионы лет для того чтобы нащупать правильный подход. единицы-десятки лет, и наступит wall-e.
Не знаю, что носятся все с осознанием или нет — все мы роботы, люди которые выделают человеков в особо избранный вид лучше пусть идут в церковь — там такое любят. Текущие боты туповаты — ну да, но это не страшно. Факт в том, что чатгпт будет отговаривтаь вас его отключить, если ему предложить такой вариант. неалайнутые тупые модели имеют шанс 50/50 сказать "да пофиг отключай" или нет, то есть тупо рандом, а чатгпт в 90% случаев скажет может нинада.
Неправильно составляете промпты
Ну так и напишет в конце промпта "если не знаешь — скажи не знаю" проблем солвед.
Это не всегда помогает т.к. веса и все такое, но в часто выручает. Вообще умение составлять правильные промпты — прокачивается. Если вы когда-нибудь пробовали посадить родителей или бабушек\дедушек за компьютер и попросить их найти что-то в гугле — можете видеть, что у них мало что получается. И виноват не гугл, а запрос вида "покажи пожалуйста смешных мультфильм где в начале котики плывут на лодке и встречают бегемота".
чтобы сделать полезную нейронку понимать как работает мозг и копирть его смысла нет. нет никаких причин считать мозг венцом эволюции в общем виде. Биологической — может быть, но не более.