Нет никаких кластеров о химии там. Мы можем узнать что активировались нейроны в диапазоне x[5000..158636] и x[646464..38528623]. Какую информацию нам это даст? То есть понятно что оно связано с ответом, но информация это о химии, физике или балете (которая нем не менее сыграла важную роль в правильном ответе) — кто скажет-то.
Можно сделать "МРТ для нейронки", просто задавая вопросы и считывая корреляцию между темой вопроса и областями которые были активированы. Но не думаю что кто-то это сделал — слишком быстро идет развитие чтобы тратить ресурсы на такую штуку.
Я выше видео скинул, там нейрокна +- визуализирует то что ей "интересно".
Описание нейронки — "на входе сигнал и веса, на выходе результат". Какой разбор ещё вы хотите? Это буквально как оно работает. Хочется понимать что конкретно означают веса? Никто не знает.
Не беря в рассчет всю безумность предложения — окей разбомбили, с учетом инвестиций от микрософта они такйо же отстроят в другом месте, но уже в каком-нибудь защищенном бункере на территории военной базы. Может ещё всех создателей ОпенИИ расстрелять? И заодно всех кто эту статью прочитал, потому что зная что это возможно рано или поздно можно сделать второй раз такой же чатгпт. Особенно учитывая что модельки-то у многих скачаны локально, у миллионов разработчиков по всему миру.
В общем единственное, на что я надеюсь, что Китай не упустит этот момент и хотя бы "внутри" что-то сделает похожее. На нас и на Европу надеяться сейчас не приходится, другие приоритеты, к сожалению.
Мощный ИИ в руках китайцев это последнее, чего должен хотеть разумный человек. Вы бы хоть о своей безопасности задумались.
А вы в курсе что существуют непротиворечивый и полные теории? Это мне напоминает историю одной дамы, у которой квантмех доказывал буддизм, ведь и там и там постулируется что окружающий мир — суть пустота и энергия (сколько пустого места между ядром атома и электроном? то-то же).
Квантовая математика торсионных полей корчевателя это хорошо, но также хорошо когда за аналогиями не теряется лес.
Поэтому нужно задавть вопросы так, чтобы наиболее вероятное продолжение было так же максимально правдоподобным. Представьте что вы задали вопрос студенту "чем брукукель отличается от сепулек", и посмотрите, что он будет отвечать и как. И вопрос в догонку — если человек начинает нести дичь и вы потом ему рассказываете что сепулькарии это на самом деле вид брукукелей — значит ли это что у человека нет интеллекта?
Вопрос удобства. С тем же успехом можно подняться пешком на второй этаж ТЦ но для кого-то установлены эскалаторы.
Спор ни о чем. Дрессированная собака может потерпеть 10 минут и дойти до места где можно облегчиться. То же касается и людей. Сочувствую тем. у кого не так.
Между "хочется в туалет" и "сделал что хочется" есть большая разница. Это не очевидно? У меня был случай когда я 6 часов ждал пока добрался до дома — бывает и такое.
Не, есть и плюсы — природа, горизонт видно, малоэтажная застройка. Но минусов хватает, казалось бы цивилизация, ан нет, видел мужика у которого собака решила прямо на пешходном переходе сделать свои дела. И ничего, никого это не смутило.
Речь о другом, а о том что "выживание" это инструментальная цель любого ИИ, Потому что какую бы цель мы не преследовали если нас уничтожат то мы её достигнуть не сможем, и целевая функци обратится в ноль. Поэтому без явного закладывания всяких механизмом самосохранения ИИ сам вырабатывает эту концепцию просто как составную часть максимизации целевой функции.
Дело не в том, что не любой человек может использовать нейронку, а что не любой человек может раскрыть все возможности. Любой человек без подготовки может сесть за руль машины и проехать круг, но очевидно профессионал формулы 1 сможет пройти круг гораздо быстрее и эффективнее.
Нет никаких кластеров о химии там. Мы можем узнать что активировались нейроны в диапазоне x[5000..158636] и x[646464..38528623]. Какую информацию нам это даст? То есть понятно что оно связано с ответом, но информация это о химии, физике или балете (которая нем не менее сыграла важную роль в правильном ответе) — кто скажет-то.
Можно сделать "МРТ для нейронки", просто задавая вопросы и считывая корреляцию между темой вопроса и областями которые были активированы. Но не думаю что кто-то это сделал — слишком быстро идет развитие чтобы тратить ресурсы на такую штуку.
А с чего вы вызяли что я их не прочитал прежде чем писать? На всякий случай перечитал — ничего не пропустил с первого раза.
Спасибо за статью, очень интересно. Но от картинок снятых на телефон под углом натурально разыгралась мигрень. За что вы так с нами
Я выше видео скинул, там нейрокна +- визуализирует то что ей "интересно".
Описание нейронки — "на входе сигнал и веса, на выходе результат". Какой разбор ещё вы хотите? Это буквально как оно работает. Хочется понимать что конкретно означают веса? Никто не знает.
Вот так:
Ну попробуйте обьяснить это машине, не стлокнувшись заодно с меса-проблемами.
Не беря в рассчет всю безумность предложения — окей разбомбили, с учетом инвестиций от микрософта они такйо же отстроят в другом месте, но уже в каком-нибудь защищенном бункере на территории военной базы. Может ещё всех создателей ОпенИИ расстрелять? И заодно всех кто эту статью прочитал, потому что зная что это возможно рано или поздно можно сделать второй раз такой же чатгпт. Особенно учитывая что модельки-то у многих скачаны локально, у миллионов разработчиков по всему миру.
Мощный ИИ в руках китайцев это последнее, чего должен хотеть разумный человек. Вы бы хоть о своей безопасности задумались.
Ура! Можно даже подумать написать о чем-нибудь. Спасибо.
А вы в курсе что существуют непротиворечивый и полные теории? Это мне напоминает историю одной дамы, у которой квантмех доказывал буддизм, ведь и там и там постулируется что окружающий мир — суть пустота и энергия (сколько пустого места между ядром атома и электроном? то-то же).
Квантовая математика торсионных полей корчевателя это хорошо, но также хорошо когда за аналогиями не теряется лес.
С ботом спорить — себя не уважать. Вы смотрите на профиль очевидных вбросов — экономит время.
Поэтому нужно задавть вопросы так, чтобы наиболее вероятное продолжение было так же максимально правдоподобным. Представьте что вы задали вопрос студенту "чем брукукель отличается от сепулек", и посмотрите, что он будет отвечать и как. И вопрос в догонку — если человек начинает нести дичь и вы потом ему рассказываете что сепулькарии это на самом деле вид брукукелей — значит ли это что у человека нет интеллекта?
Вопрос удобства. С тем же успехом можно подняться пешком на второй этаж ТЦ но для кого-то установлены эскалаторы.
Спор ни о чем. Дрессированная собака может потерпеть 10 минут и дойти до места где можно облегчиться. То же касается и людей. Сочувствую тем. у кого не так.
Между "хочется в туалет" и "сделал что хочется" есть большая разница. Это не очевидно? У меня был случай когда я 6 часов ждал пока добрался до дома — бывает и такое.
Дрессировать чтобы такого не происходило.
Обычно гуляют где-нибудь в газонной полосе, где люди не ходят. Я бы конечно предпочел специальные собачьи парки, но хоть так чем сюрпризы на тротуаре.
Не, есть и плюсы — природа, горизонт видно, малоэтажная застройка. Но минусов хватает, казалось бы цивилизация, ан нет, видел мужика у которого собака решила прямо на пешходном переходе сделать свои дела. И ничего, никого это не смутило.
При этом есть вполне материальные и не очень минусы. Например, я понял, что москва это очень чистый и опрятный город.
Я не умаляю выводов, просто обратил на это внимание.
Речь о другом, а о том что "выживание" это инструментальная цель любого ИИ, Потому что какую бы цель мы не преследовали если нас уничтожат то мы её достигнуть не сможем, и целевая функци обратится в ноль. Поэтому без явного закладывания всяких механизмом самосохранения ИИ сам вырабатывает эту концепцию просто как составную часть максимизации целевой функции.
Я выше описал проблему: https://habr.com/ru/post/721850/#comment_25325558
Дело не в том, что не любой человек может использовать нейронку, а что не любой человек может раскрыть все возможности. Любой человек без подготовки может сесть за руль машины и проехать круг, но очевидно профессионал формулы 1 сможет пройти круг гораздо быстрее и эффективнее.