Хабр Курсы для всех
РЕКЛАМА
Практикум, Хекслет, SkyPro, авторские курсы — собрали всех и попросили скидки. Осталось выбрать!
Поток Научпоп доступен 24/7 благодаря поддержке друзей Хабра
Комментарии 10
Спасибо за статью, было интересно.
Какая та каша, поток мыслей. Походу философия - не конёк Амадея. Автократия, бла-бла.
Логика и аргументы на уровне среднего студента. Никакого анализа, или технических подробностей. Вполне нормально для CEO.
Под «мощным ИИ» я имею в виду ИИ-модель (вероятно, похожую по форме на современные большие языковые модели, LLM, хотя она может быть основана на иной архитектуре, включать несколько взаимодействующих моделей и использовать иные методы обучения)
Странное выражение - "может быть основана". Естественно архитектура и принципы обучения будут принципиально иными, в сравнении с нынешними LLM. Впрочем для CEO погружение в технические детали не очень важно.
По уровню чистого интеллекта она умнее лауреата Нобелевской премии почти во всех соответствующих областях
Это требует разъяснения. Как обычно происходят значимые открытия: Есть несколько (десятков, сотен) рабочих групп, (в разных организациях, в разных странах), которые работают над актуальной научной проблемой. Одна из групп добивается успеха быстрее других.
Ни для одной из групп успех не гарантирован. Успех обусловлен действием суммы обстоятельств, а не гениальными способностями одного из участников. Чем меньше исследовательских групп, тем меньше вероятность открытия на ограниченном интервале времени.
Что значит "ИИ умнее лауреата Нобелевской премии" - это значит, что модель гарантированно достигает успеха в установленном для нее научном проекте, за короткий интервал времени. Она умнее не одного "лНп", а умнее всех исследовательских групп работающих над данной научной проблемой. Таким образом научные открытия перестают быть лотереей, а становятся просто пунктом в "списке покупок".
Во-первых, мы ни в коем случае не должны продавать странам с иными политическими системами чипы, оборудование для их производства или дата-центры.
Здесь логика CEO понятна. Конкурентов надо давить. Кроме того, экспорт чипов, в условиях дефицита, приведет к росту цен для американских ИИ-компаний.
Да, оценка и сравнение интеллекта людей и моделей- непростая штука. Есть IQ, который не сильно различается для Эйнштейна и десятиклассника Васи, хорошиста по математике. Но объем знаний Эйнштейна отличается на порядки. С другой стороны, десятикласник Петя, любитель читать БСЭ и обладатель хорошей памяти, в разы превосходит Васю по знаниям, но может быть слабее по интеллектуальных- практическому применению знаний...
Если с людьми так непросто, то что говорить про сравнение людей и llm...
Очевидно, что если бы по какой-то причине она решила захватить мир (либо военным путём, либо через влияние и контроль) и навязать свою волю всем остальным (или предпринять любые другие действия, которых остальной мир не хочет и не может остановить), у неё были бы неплохие шансы на успех.
Удивительно, т.е. сейчас этого всего нет, но с приходом ИИ-гениев появится. Человек живёт в стране, которая этим активно занимается, и у которой неплохие шансы на успех. Есть другая страна у которой тоже неплохие шансы на успех. И никакая международная организация не может этому противостоять, потому-что у стран членов нет единого мнения. Тогда какая разница, кто это будет проворачивать, ИИ-гении, двуглавый орёл, одноглавые орлы, фасция, врата или лев с единорогом.
Кроме того, неясно, действительно ли физическое присутствие необходимо для эффективного контроля: множество действий людей уже сегодня выполняется от имени тех, кого исполнитель никогда физически не встречал.
Множество действий людей уже давно выполняется от имени тех, кого исполнитель не встречал.
Дальше лучше.
Я неоднократно писал об угрозе, которую представляет собой опережение Китаем США в области ИИ, и о жизненно важной необходимости этого не допустить. Внесу ясность: я не выделяю Китай из враждебности к нему как таковому — просто это та страна, где в наибольшей степени сочетаются как мощь в области ИИ, так и высокотехнологичное государство, основанное на иных, нежели западные, политических принципах.
Человек говорит об угрозе той стране в которой он живёт, его высказывания уже содержат зерно предвзятости. Если моя страна этим завладеет это норм, если чужая это плохо.
В целом я поддерживаю вооружение демократий средствами, необходимыми для победы над иными странам в эпоху ИИ — я просто не вижу другого пути.
Это вообще жесть.
существуют определённые аргументы в пользу строительства крупных дата-центров в странах с различными моделями управления, особенно если они (дата-центры) контролируются компаниями из демократических государств.
Лицемер. Определённые аргументы это более дешёвая рабочая сила?
Это, конечно, также аргумент в пользу усиления безопасности ядерного сдерживания, чтобы повысить его устойчивость к мощному ИИ, и демократические государства, обладающие ядерным оружием, должны этим заняться.
Отлично, мы создавали ИИ для улучшения мира, но надо готовиться к гонке вооружений.
Во-первых, мы ни в коем случае не должны продавать странам с иными политическими системами чипы, оборудование для их производства или дата-центры. Чипы и оборудование для их производства — это главное узкое место в создании мощного ИИ.
Где гарантия постоянства режимов, политических систем? Мы создадим свою монополию, потому-что ваша будет хуже.
У меня эти моменты тоже вызвали [сначала] недоумение. Но, по крайней мере, человек честно сформулировал то, что многими неявно принимается и разделяется.
Поэтому я думаю, что этот документ очень важен, он как бы предугадывает ближайшую политику/отношение государств и граждан к ИИ, государств между собой и государств к гражданам в мире с растущим влиянием ИИ.
Зарегистрируйтесь на Хабре, чтобы оставить комментарий
Подростковый период технологий