Комментарии 29
Я джва года ждал... Подожду и дальше.
(Какая то неделя странных статей на Хабре. Обострение что ли?)
Жаль нет кармы, что бы заминусовать
Если постараться ответить серьёзно, то идея пока совсем не достижима. В современных технологиях и не пахнет зачатками искусственного интеллекта. Именно интеллекта - то есть способности как-то логически мыслить, строить теории и придумывать новое.
Всё что есть под приставками ML - это машинное обучение. Умение принимать быстрые решения в сложных ситуациях. Не потому что машина до этого додумалась, а потому что её обучили на миллионах примеров, что при определённом наборе входных параметров нужно выбирать варинат А, при другом наборе - вариант Б. И на этом пока всё.
ML может помочь перебрать все возможные варианты сочитаний лекарств и попробовать предположить с определённой долей вероятности, какая комбинация снизит процент смертности. Но чтобы знать наверняка - она должна быть обучена на готовых данных, а для этого нужны данные, а данных - нет, пока человек не придумал.
подобная технология может избавить нас от буквально всех проблем и вопросов, которые существуют до сих пор
Философский камень на новый лад.
На самом деле уже есть очень много децентрализированных технологий различной направленности для всего хорошего и против всего плохого. Но энтузиастов, как всегда, не хватает.
Как сообща изменить мир втихаря от санитаров
Я уж думал - ещё один по приглашению Фанерозоя. Но - нет, на этот раз доставлен НЛО!
Мне вот интересно, неужели модераторы хабра после прочтения статьи не сообщают автору: "Исходя из нашего опыта мы можем с гарантией сказать, что Ваша статья не получит одобрения сообщества"? Или сообщают на что автор говорит: "Мне всё равно". Просто иногда кажется, что у модераторов хабра есть некая квота на подобные статьи, чтобы народ мог выпустить пар и повеселиться в комментариях.
Почему-то люди, не имеющие ни малейшего понятия о технологиях ИИ или биологии, не способные даже включить проверку орфографии в браузере, решили что они точно знают как с их помощью облагодетельствовать человечество.
И рецепт для счастья тоже простой: надо больше квантовых компьютеров, видеокарт этих новых, очкариков этих у гуглов и майкрософтов отобрать, засадить их в общую шарагу и чтоб они думали как нам построить коммунизм и вечную жизнь а не вот это вот всё. И гуглу из этого один профит: да, их сиюминутная прибыль упадёт, но ведь скоро все будут жить вечно!
У меня есть альтернативный рецепт всемирного счастья, более надёжный и простой. В последние годы ряд серьёзных правительственных организаций, военных структур и людей из спецслужб признали существование инопланетных цивилизаций (отчёты Пентагона об НЛО, видеозаписи ВМФ США, интервью бывшего нач. разведки Израиля). Очевидно, что пришельцы обладают высокими технологиями, способными радикально поменять наше общество. Небходимо немедленно создать комиссию по контактам с инопланетными цивилизациями (КОМКОН), наделить её особыми полномочиями и приложить все усилия чтобы начать переговоры с пришельцами. В силу врожденного гуманизма (если цивилизация не самоуничтожилась в войне, а развилась до уровня межзвёздных путешествий), они обязаны нам помочь и поделиться своими технологиями. Возможно они потребуют оплаты - в нас есть на этот случай целый ненаселённый континент который мы готовы отдать взамен. В крайнем случае надо пойти на чрезвычайные меры, включающие в себя захват инопланетных заложников и принуждение их к переговорам и репарациям.
Почему этот план более реален? Потому что доказательств существования инопланетян больше чем доказательств возможности сильного ИИ.
В крайнем случае надо пойти на чрезвычайные меры, включающие в себя захват инопланетных заложников и принуждение их к переговорам и репарациям.
Хороший план, через силу принудить сделать нас добрыми, нравственными, развитыми. По вашему плану исход будет один. Полное уничтожение человеческой цивилизации. Или инопланетяне не поймут наших методов установления дружбы. Или сами люди получив более высокие технологии гарантировано себя уничтожат. Метод получения этих знаний способствует этому.
Лучше уж предложение автора статьи. Я хоть и не понял в чем конкретно его предложение, но оно направлено на развитие лучших человеческих качеств: заботы о других людях, развитие человечества, кооперация над высокой долгосрочной целю направленный на развитие общества взамен краткосрочных направленных на корыстные (увеличение капитала, захват рынка и.т.д.).
А что из них более реально? Реально то, на что направлено наше внимание, что мы развиваем. Если достаточно людей возьмут курс на предложение автора (что бы это ни было:), это возможно. Осталось найти харизматичного лидера. То бишь второго Илона Маска.
Возможно, инопланетяне существуют. Лично я не видел, СМИ и интернету в таких вопросах доверять глупо, фальсификаций хватает и у самых "авторитетных" организаций, а государство же вообще никогда не врет людям. Лично я не исключаю их существование, но если они есть, значит, они про нас знают, так как их якобы видели земные люди. Вероятно, они не хотят вмешиваться к нам или другая причина.
Что касается ИИ, то оно развивается с каждым днем довольно стремительно, уже крупные компании принимают шаги к созданию сильного ИИ, пусть и для коммерческого использования, с целью прибыли. Поэтому мне кажется, теория с ИИ вполне вероятна. Но Вам никто не мешает продвигать и Вашу идею, почему нет.
Не смог дочитать до конца. Я искренне надеюсь что автор действительно не знает о проблемах общества ничего
Где хоть один довод к главному тезису - "искуственный интеллект == продление жизни на неопределенный срок и ее безопасность"?!
С чего? Каким образом наличие рядом с вами еще одного сознания, не важно в виде костяного шара с кашей из нейронов или набора микросхем, продлевает вашу жизнь?
Выглядит как компиляция 2-3 философских рефератов на общую тему, но без попытки прочитать что в итоге вышло...
Если честно, подобные тексты кроме смеха уже ничего не вызывают. Ну не способны люди изменить человечество - оно меняется по тем же, может немного видоизмененным с учетом разума, эволюционным законам. Так что советую просто радоваться жизни и наблюдать за происходящим.
Когда он мобилизует 20% призывников-синьоров от гуглов и микрософтов, посадит их в большом опен-спейсе, что он им скажет? Разве что это:
Ну, это немного по-другому работает. Во-первых, идея направлена на заинтересованных людей, а не запихать всех силой в одно место и заставить трудиться. Во-вторых, если зайти поглубже, в качестве единственного лидера никто себя не рассматривал, наоборот, хорошо, когда у многих людей есть свое видение на решение проблемы.
Опять же, "рецепт бессмертия" должен появится либо благодаря сильному ИИ, либо благодаря искусственно созданному мозгу, будь он биологический или электронный или как один из вариантов, разработается некий катализатор, который в разы улучшает умственные способности человека, и вот тоько в этом случае, кто-то что-то может родить.
В-третьих, тут показана сама идея, что надо направлять ресурсы на реально важные проблемы человечества. Как со временем в истории были установлены учреждения здравоохранения, образования, правопорядка, без которых наша современная жизнь уже не была бы мыслима, так и сейчас надо создавать похожие организации, которые финансируются извне, потому что направлены на реальную пользу всему обществу. Они не просто делают рекламу, стараются продать тебе товары подороже и побольше, даже не важно, какого качества в некоторых случаях, в идеале они направлены на то, чтобы помогать, то, что и в этих организациях сейчас наблюдается тенденция заработка, бюррократия и т.д., во всем этом полностью наша вина.
в качестве единственного лидера никто себя не рассматривал, наоборот, хорошо, когда у многих людей есть свое видениеТак-то уже есть множество коммерческих и некоммерческих организаций, как в области ИИ, так и в области продления продолжительности жизни. Кто-то в них верит, кто-то считает шарлатанами.
тут показана сама идея, что надо направлять ресурсы на реально важные проблемы человечества. Как со временем в истории были установлены учреждения здравоохранения, образования, правопорядкаУ таких учреждений есть устав и формат работы. Например, пожарные службы несут дежурство и готовы к выездам на пожары. Чем предлагаемая новая служба будет отличаться от существующих ВУЗов и НИИ? Сейчас в них заинтересованные люди ведут исследования, делятся результатами, получают финансирование. Что надо поменять?
Дело в масштабе. Сравнить те же коммерческие ИТ корпорации и НИИ с лабораториями, занимающиеся вопросами исследованиями жизни. В одних работают десятки тысяч человек, в других - в лучшем случаи сотни.
Или отказаться от фрагментации, и всех объединить и кинуть на одну задачу? Тогда не будет добровольности. У каждой группы свои идеи, а если всех перебросить к одной на помощь, это будет тупо скучная рутина для остальных.
Вы говорите про крайности, какие вообще не были упомянуты и не были задуманы. С таким подходом, естественно, далеко не уйдешь. Речь была о том, чтобы собрать именно тех людей, которые хотят заниматься только одним делом, в данном случае, например, разрабатывать сильный ИИ для медицины. Зачастую в вышеуказанных корпорациях все делают именно то, что сказали люди выше. Взять ситуацию с тем же GPT, возможно, кто-то и хотел создавать модель, обученную на медицинских данных, но ему говорят, что компании интересна только википедия, редит и т.д, то есть они хотят более общую модель. Потому что люди на работе и им платят, они будут вынуждены заниматься именно тем, что сказали. А найти такую работу, где и деньги платят и хочешь реализовать свою высокую цель - почти нереально. Поэтому предложено создать именно такую организацию, которая будет платить людям зарплату, а они будут работать над тем, что хотят все(члены группы).
Речь была о том, чтобы собрать именно тех людей, которые хотят заниматься только одним делом, в данном случае, например, разрабатывать сильный ИИ для медициныУ этого одного дела сейчас миллион подходов, у каждой группы свой.
Поэтому предложено создать именно такую организацию, которая будет платить людям зарплату, а они будут работать над тем, что хотят все(члены группы)То есть, надёргать людей с разных проектов, но по принципу «работал над медициной/ИИ — ты нам подходишь», а потом сказать им «забудьте свой проект, теперь у нас новый общий проект». Если кто-то занимался симуляциями клетки, забудьте, теперь новый общий план действий — GPT-4 на медицинских данных. Как-то так я понял.
Говорят, что "мечтать не вредно". Добавлю ИМХО: не на Хабре.
Но ИМХО в отзывах не хватает конструктивной критики. Поэтому рискну предложить автору идею улучшений этой статьи:
1) доказать теорему, что 20% хороших спецов могут решить любую проблему;
или
1а) доказать теорему, что 20% хороших спецов могут решить достаточно сложную проблему;
2) доказать лемму:
нерешаемых задач не существует;
3) из (2) следует, что сильный ИИ возможен;
4) если (3) верно, то какие предохранители от сильного ИИ по сценарию фильмов Терминатор?
Пожелаем автору успехов.
Спасибо за отзыв.
1) 20 процентов - это не какое-то фундаментальное значение, скорее, предположение на интуитивном уровне. Смысл текста - донести саму идею, что масштаб проблемы огромен и критичен для каждого существа на земле, а крупных организаций, занимающимся данным вопросом нет. Как писали раньше, есть НИИ, лаборатории, просто группы энтузиастов, но этого очень мало. По сути дела, жизнь - это самое, что у нас есть. Взять, например, производство автомобилей, они жизненно важны только для спецслужб вроде скорой, пожарных и тд., все остальное - это просто комфорт, общественный транспорт вполне решал бы вопрос передвижения, не говоря о том, что вопрос с пробками отпал бы сразу. Так вот, в производстве автомобилей только одной компании могут заниматься тысячи или десятки тысяч человек. А что для Вас важнее: комфортная жизнь (даже не учитывая то, сколько аварий происходит на дорогах) или жизнь в целом. Сильный ИИ может создать не только некую вакцину для продления жизни, но и решить проблему безопасности на тех же дорогах и так далее.
Пункты 2 и 3 не коррелируют между собой. Пункт 2 - больше философский вопрос.
4) Отчасти это верно, гарантий особо нет. Но как приводили пример из Библии в одной дискуссии про вакцину от ковида: Если бы на ковчег Ноя никто бы не пошел, потому что он "ненадежный" или "непроверенный" и т.д., спасся ли кто-либо вообще?
Хотя здесь есть варианты, во-первых, если натренировать ИИ только на медицинских, биологических данных, обучить логике, математике, не затрагивая побочные темы вроде истории, рассказов или новостей, как это реализовано в моделях, которым просто вскармливают википедию и редит, то есть шанс, что такой ИИ будет очень безопасным.
Плюс, в статье рассматриваются еще два варианта, оба не могут гарантировать стопроцентную безопасность, но ее вероятность можно свести к минимому.
Спасибо за ответ — точнее за попытку ответа.
Вы предполагаете, что накопленные знания достаточны для решения любой задачи. Нужно только обучить нейронную сеть этим знаниям. Но очевидно, что такая сеть не сможет ответить на вопрос о существовании иных цивилизаций, и на многие другие вопросы. Просто недостаток знаний в обучающей выборке.
Ответы на такие вопросы про иные цивилизации не преполагаются. Сначала ставиться задача - разработать ИИ, который решает вопросы в медицине. Далее, когда у нас уже обстановка будет получше, можно будет не боятся хотя бы умереть от Ковида или иного заболевания, то есть основная цель - это ИИ, решающий задачи медицины и долголетия, вот уже потом, можно развивать ИИ по целям, который сам решит для себя нужным. Разумеется, если эти цели не наносят урон обществу.
Пирамида Потребностей Маслоу должна остаться неизменной для нашей же пользы.Полезнее выбраться из пирамиды Маслоу.
Нравится ли Вам идея?Какая идея? В чем она заключается, что именно предлагаете делать?
Как сообща изменить мир