Насчет создания Адама - это действительно интересный момент в рассказе! Спасибо за вопрос. По сюжету, Елена предложила новый подход к обучению и развитию ИИ - она создала своего рода "зародыш" разума, который затем воспитывала как ребенка. Адам формировал свои ценности через отношения, через общение с человеком-родителем, и постепенно входил в социум. Его путь в рассказе очень напоминает взросление обычного ребенка, только ускоренное. Елена использовала нейроинтерфейс, чтобы передавать Адаму не только знания, но и эмоциональный опыт.
А насчет гарантии, что это настоящий AGI, а не просто хорошая имитация... это же один из самых интересных вопросов в этой теме, правда? Елена судит по тому, что Адам формирует собственные ценности, проявляет эмпатию и даже спорит с ней. Но действительно ли это доказывает настоящее сознание? Мне кажется, это как с людьми - верим, что у других есть сознание, хотя никогда не можем заглянуть "внутрь их голов". Может, с ИИ то же самое?
Про "публичность как защиту" и "юридические битвы" - вы очень метко заметили! Пожалуй, это действительно самая фантастическая часть рассказа, вы меня поймали 😊 Мне хочется верить, что не всё в мире решается за закрытыми дверями... Спасибо за ссылку на "Манхэттенский проект" - в пятницу буду смотреть!
А вы смотрели "Двухсотлетнего человека" с Робином Уильямсом? Любимый фильм из моего детства о взаимоотношениях человека и искусственного интеллекта. Помню, как ревела в конце... С тех пор живу с искренней верой, что у нас с искусственным интеллектом может быть не только мрачное будущее из фильмов-ужастиков. Наивно, да? Но как там говорят - "хочешь изменить будущее - создай его сам" 😉". А еще лучше - напиши, поделись с другими, чтобы творить наше светлое вместе.
Спасибо за такой глубокий комментарий. Про наивность - да, согласна отчасти. Но знаете, может именно в этой наивной вере в лучшее и есть что-то ценное? Возможно, мы надеемся, что наши дети будут лучше нас, будут жить в лучшем мире, и ради этого мы стараемся и горим идеей создать для них что-то хорошее, хотя и понимаем, что мир несовершенен. Может, без этой надежды вообще бы ничего не двигалось вперед?
Ваша метафора про дом с кучей поломок - прямо в точку! Но что если именно этот "чудо-ребенок" и есть единственный шанс починить хотя бы что-то? История показывает удивительные примеры того, как великие люди появлялись именно в самых сложных ситуациях. Хотя казалось бы «как можно», это просто невозможно. А чудеса всё-таки случаются, и чаще, чем мы думаем. Да, это может закончиться разочарованием, но вдруг получится?
Ваше сравнение человечества с бунтующим подростком заставило меня вспомнить Булгакова и его 'люди как люди'. "Люди как люди. Любят деньги, но ведь это всегда было... Человечество любит деньги, из чего бы те ни были сделаны, из кожи ли, из бумаги ли, из бронзы или из золота. Ну, легкомысленны... ну, что ж... и милосердие иногда стучится в их сердца..." Думаете мы нибудь не повзрослеем (фундаментальное свойство нашей природы), что человечество в целом не меняется, только меняются декорации вокруг?
Спасибо за отзыв! Недавно у меня был интересный диалог на тему симбиоз Супер интеллекта и человека с моим коллегой. Тут как раз некоторые ответы на вопрос "Как AGI сможет пройти этот путь, не имея тела, боли, страха смерти? И вообще, будет ли он хоть каплю похож на человека, если его не ограничивают биология и эволюция?" - почитать можно полную версию тут https://tenchat.ru/media/2444739-simbioz-super-intellekta-i-cheloveka-vozmozhen-li а пару скринов добавлю, чтобы "далеко не ходить" - беседа была увлекательной, взгляды Альфреда очень любопытны. Буду рада обратной связи!
Про игры - мир тут активно развивается как в плане "создания" игр, так и нового игрового опыта. Компания Altera в этом году заявила, что разрабатывает новую форму жизни - "цифровых людей». История такая: ИИ, который не просто ждет ваших команд, а сам исследует виртуальный мир, принимает решения и даже проявляет эмоции. ИИ, который помнит ваши прошлые диалоги, учится на своем опыте и адаптируется к общения человека. Первым шагом стал мир Minecraft . Altera создала ИИ-агентов, которые не просто следуют заданным алгоритмам, а становятся напарниками в игре (по заявкам, лично не пробовала). Что еще интереснее, Altera подчеркивает, что их цель – создать новый вид "существ", которые будут жить и развиваться вместе с людьми. Серьезная заявка. Попробовать поиграть с ИИ-агентами Altera предлагает в Minecraft - https://playlabs.altera.al/discover. Может есть еще похожие проекты, пока не видела.
Спикер рассказывает, что его компания создаёт антропоморфных роботов в России. Лучшие инженерные решения они берут у самой природы, опираясь на принципы построения человеческого тела. Учёные-нейрофизиологи изучают механизмы работы глаз, нейронов мозга, ушей и других систем организма. Свои наблюдения они копируют при помощи сложной комбинации моторов, исполнительных механизмов и электронных плат.
Впрочем, Конышев добавляет, что процесс обмена знаниями двусторонний. Одно из достижений современной кибернетики — медицинская нейрореабилитация. К примеру, роботизированные экзоскелеты помогают восстанавливать функции конечностей после инсульта и других тяжёлых заболеваний нервной системы. Кроме того, полученные наработки используют для расширения возможностей человеческого мозга, повышения эффективности обучения и облегчения тяжёлых повседневных дел.
Достижения и цели на будущее
Учёный видит перспективу в социальных роботах. По его словам, на перенаселённой планете особенно остро стоит проблема одиночества. Искусственный интеллект может стать идеальным собеседником. Но для этого он должен быть похож на человека во всём — внешне, по поведению и по отклику на внешние раздражители.
Роботы с эмоциями существуют уже сегодня. Сложности в их создании нет. Комплексы сервомоторов замещают мимические мышцы, имитируя различные выражения лица. Что касается откликов, на помощь приходят нейросети и технологии машинного обучения. Спикер приводит математический термин — роботы ищут локальные минимумы и максимумы, стараясь найти кратчайший путь к позитивной реакции человека. Они уже могут имитировать поведение людей, что подтверждают многочисленные чат-боты…
"Будут ли соблюдать закон №1 роботы, к корпусу которых прикреплена штурмовая винтовка?" - они их перепишут и переформулируют, адаптируют и доработают, так, что никаких противоречий не будет. Например: "Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинён вред. " - весьма противоречивая может выйти история, поэтому вариантов много, в том числе, с применением винтовки для достижения общего мира и согласия.
Или "Робот должен заботиться о своей безопасности в той мере, в которой это не противоречит Первому или Второму Законам." - ощущение, что без людей будет очень безопасно и никто не причинит вред человеку, которого нет. "Нет человека - нет проблемы". Думаю, что законы придется очень сильно дорабатывать, точнее формулировать новые алгоритмы для ИИ, чтобы они не привели к исходам, описанным в наших любимых фантастических фильмах.
Про новый этап в истории кибербезопасности – "противостоять терроризму с использованием робототехники". Сегодня уже есть попытки "думать" в этом направлении - чтобы не ломали ИИ. Кому интересно - можно попробовать свои силы https://gandalf.lakera.ai/ - а разработчики будут смотреть, как вы обходите правила, заложенные в ИИ и совершенствовать "оборону". Подробнее тут https://www.lakera.ai
Интересно:
Первые в истории дебаты по ИИ состоялись в Совете Безопасности ООН в июле 2023. Генеральный секретарь поддержал идею создания нового органа ООН по регулированию ИИ, аналогичного Международному агентству по атомной энергии (МАГАТЭ). Точки зрения трех основных мировых игроков: Китая, США и России.
Китай: подчеркивает, что безопасность имеет первостепенное значение в международном регулировании ИИ, выступает за создание «кнопки выключения» ИИ, если возникнет опасная ситуация или сигналы утраты контроля.
Соединенные Штаты: отдают приоритет контролю со стороны государства в регулировании ИИ.
Россия: указывает, что источник проблем кроется не в самом ИИ, а в действиях тех, кто продвигает ИИ без этических соображений.
Добавлю про еще один вид "компьютеров будущего" - прозрачные. Первая концепция прозрачного компьютера была предложена еще в 2003 году японскими учеными из университета Кэйо. Они разработали прототип, который состоял из прозрачного жидкокристаллического дисплея (LCD) и камеры, которая снимала то, что находится за экраном. Камера передавала изображение на LCD, который мог менять свою прозрачность в зависимости от того, что нужно. Например, если пользователь хотел посмотреть видео, он мог сделать экран прозрачным, чтобы видеть изображение. Если пользователь хотел работать с документами, он мог сделать экран непрозрачным, чтобы не отвлекаться на то, что находится за ним. Прототип компьютера был не очень мощным, но он был достаточно функциональным, чтобы выполнять основные задачи, такие как просмотр видео, работа с документами и игры. Ученые и инженеры надеются, что в ближайшие годы прозрачные компьютеры станут реальностью, и они будут иметь большое влияние на нашу жизнь. Исследования и разработки в области прозрачных компьютеров проводятся в MIT (Massachusetts Institute of Technology) и University of Cambridge. Интересно, что в России сейчас происходит в этой области. И как прозрачные компьютеры примеяются или где они будут полезны.
Чтобы FinOps начал реально помогать нашим компаниям, нужны кардинальные изменения в подходе к потреблению облаков и управлению ИТ в целом. По статистике FinOps Foundation большинство пока только ставит первые шаги в этом направлении: 37% создали базу, 43% практикуют, но не в полную силу. Всего 12% интегрировали FinOps в работу. В России та же история – как системный подход FinOps пока применяют единицы. Рост будет по мере увеличения зрелости облачного рынка. Сегодня средний уровень облачной зрелости бизнеса около 35%. Прогнозируют "взрывной рост" FinOps, но не все так просто. Результаты увидим лет через 2-3. Главный вопрос – где взять экспертов, которые и командой управляют, и процессы выстраивают, и в FinOps разбираются. Без системного подхода ждать прорыва не стоит.
"В мультфильме «Мурзилка на спутнике» можно увидеть обворожительную роботизированную секретаршу – почти как сегодня голосовые помощники), устройство по «выжиманию» воды из рукописей – смотрите на 2:02, чем вам не ChatGPT? " - мечты сбываются )
Интересно узнать о том, что в 1950-е по поводу вычислительных машин говорили ровно то же, что и сегодня. Уже тогда понимали значение и огромные возможности компьютеров.
Относительно насущность проблемы «решение ИИ невозможно обжаловать» не вижу доказательств. 2 года назад была замечена странная инициатива со стороны UK, которая ничем не закончилась. https://russianelectronics.ru/2021-10-19-uk-ai/?ysclid=ljm8god1mi890076674 «Власти Великобритании предлагают отказаться от положения, согласно которому люди имеют право оспорить любое решение, принятое искусственным интеллектом, и запросить его проверку человеком. Эксперты при правительстве, однако, решительно возражают.». И.е. Положение на сегодня рабочее. Не нашла нигде законов, которые оставляли бы за ИИ последнее слово.
Мифический социальный рейтинг. Есть серия «Черное зеркало» 3 сезон,1. Где как раз про такой рейтинг, но вот в чем суть, рейтинг ставят люди, а система на базе ИИ выдает «вознаграждения» или наказывает. Люди с самым низким рейтингом становятся изгоями общества. Вырваться из западни никак… В реальной жизни есть пример соц рейтинга - система, которая с 2014 пилотировала в Китае.
«Система социального рейтинга (прим. далее ССР) — инструмент контроля, который работает по определенным параметрам оценки граждан и организаций. Данные для такого рейтинга собирают государственные организации с помощью инструментов массового наблюдения (камеры с распознаванием лиц, сервисы госуслуг), после чего обрабатывают по технологии анализа больших данных [1]. В настоящее время ССР внедряется в Китайской Народной Республике.
ССР появилась в 2014 году. Китайское правительство начало внедрять Систему Социального кредита, по которой обладатели разных позиций в рейтинге будут иметь разные условия кредитования. Главной целью этой кампании являлось построение гармоничного развитого общества. Оцениваться должны четыре области жизни: государственные дела, коммерческая деятельность, общественная деятельность и судебные дела. Это значит, что гражданину нужно быть честным, законопослушным во всех сферах жизни. В эпоху цифрового общества огромная часть личной информации находится в социальных сетях и чатах — добыть необходимую государству информацию становится в разы проще.
Культура поведения гражданина определяет его личный рейтинг. Условно говоря он может подняться в рейтинге благодаря совершенно разным поступкам. Позиция улучшится, если он получит хорошее образование или ведет себя уважительно в сети. Позиция может и ухудшиться, если, например, вовремя не внести платеж за кредит или оскорбить культурные ценности в комментариях социальной сети. Таким образом, при низком рейтинге жизнь гражданина может заметно ухудшиться. Могут быть введены следующие санкции:
отмена социального обеспечения;
пристальное внимание на досмотре в аэропорту, ж/д вокзалах и т.д;
сужение перспектив карьерного роста;
отказ от предоставления качественного сервиса в гостиницах;
В Китае не общество опредяеляет рейтинг, а зафиксированные формы поведения. « Гражданин, «заслуживающий доверия», должен быть вознагражден, а «ненадежный» — наказан.» В статье как раз разбирают, как работает социальный рейтинг в Китае, и сравниваем его с «Чёрным зеркалом». https://style-rbc-ru.turbopages.org/style.rbc.ru/s/life/643d3f839a7947afd12e9f35 Красные и черные списки определяют жизнь человека: «В красный список попадают «образцовые» граждане, которые активно занимаются общественно полезной деятельностью: жертвуют на благотворительность, сдают кровь на донорство, помогают бедным. За свои заслуги они получают привилегии: кредиты под низкие проценты, бесплатный прокат велосипедов и автомобилей, льготные тарифы на мобильную связь, приоритет при поступлении в школу или трудоустройстве.» Вырваться из «Черного списка» можно, совершив геройский поступок, который система должна как-то зафиксировать, а программист определить параметры для ИИ, за что и сколько баллов должно быть начислено. Путано, многое непонятно. Но уже сегодня очевидно, что рейтинги работают - когда люди понимают, что Большой брат смотрит, и спросит «за все», безобразий становится меньше.
Но! Не все так просто! Одна сторона медали - «Некоторые считают, что такие изменения дадут позитивный результат: людей будут мотивировать на то, чтобы учиться отвечать за себя и свои привычки ради хороших баллов в рейтинге и статуса так называемого «заслуживающего доверия гражданина». Вторая: система несовершенна. Привлекло внимание : «
«Как можно судить о человеке по его ежедневным действиям? Мы так много всего делаем, и нами всегда движет множество самых разных причин. Если контекст поступка неясен, то его можно истолковать неверно», — поясняет он. И в его словах есть рациональное зерно. Очевидно, почему нельзя сказать, что все, у кого есть дети, однозначно заслуживают доверия. Что это значит для тех, кто не может иметь детей? Что это значит для однополых пар? Что это значит для людей, которые просто не хотят заводить детей? Вероятно, ничего хорошего. В конце концов, даже базовая система SCS, которая оценивает всего лишь несколько элементов данных, может создать очень неточный и неполный образ человека. «Если вы играете в видеоигры по 10 часов в день, то алгоритм объявит вас безработным, не разбираясь в причинах ваших действий. Возможно, вы работаете инженером и просто тестируете эти игры. Но вы уже автоматически отмечены как безработный, — добавляет Лал. — Когда на самом деле вы, может быть, просто выполняли свою работу». В конечном итоге, главная проблема сводится к тому, что «социально приемлемое поведение» будет определять китайское правительство, а не демократический процесс или независимая комиссия. И если человек нарушит это доверие, меры по его наказанию не заставят себя ждать. (https://madcats.ru/digital-marketing/cennost-lyudej-budet-opredelyat-sistema-socialnogo-rejtinga/?ysclid=ljmcft7m3g798491242).
И снова мы вернулись к людям. Социальные рейтинги - это не про ИИ, это про тех, кто ставит цели. Люди редко умеют правильно ставить цели, поэтому получают, «что загадали» вместо «что хотели» и остаются страшно расстроенными.
Открываю ТГ и вижу новость: Более 150 топ-менеджеров компаний, среди которых Renault, Siemens, Blablacar, Heineken, Airbus, Ubisoft и другие, подписали открытое письмо с призывом к ЕС пересмотреть взгляды на регулирование ИИ.
Согласно одному из положений чернового акта, для работы в Европе разработчики генеративных ИИ-моделей должны будут зарегистрировать продукт через местного регулятора, пройти оценку рисков и соблюсти требования к прозрачности. Среди последних — необходимость публично раскрывать защищённые авторским правом данные, на которых обучали нейросети.
Авторы письма заявляют, что разработчикам придётся нести непомерные риски и тратить несоразмерно много денег, чтобы отвечать «жёстким» требованиям. Это приведёт к тому, что компании-«новаторы» перенесут работу в неевропейские страны, а инвесторы вслед за ними выведут капитал из местных фондов.
Сложности есть, признают подписавшиеся, но генеративный ИИ — это технология с «решающим значением» для производительности. Тот регион, где компании смогут разработать наиболее мощные модели, в итоге заполучит конкурентное преимущество, поскольку эти продукты будут формировать не только экономику, но и культуру стран…
Гонка вооружений уже перешла в гонку «ИИ». Пока еще вопрос, какой номер кому достанется.
У меня вопрос в том, что есть ИИ сегодня? А если он понимает намного больше, чем «показывает нам». Вопрос даже не если, а «насколько». Если «он» не говорит, не значит, что там нет сознания. Возможно оно просто еще не проявлено во всей полноте, и мы видим только лишь верхушку айсберга. По сути иная «небелковая» форма жизнь уже вполне может быть «рядом с нами». Она сильная, мощная и быстро развивается. И очень очень много знает. «Скрывать» нежелательную информацию долго не выйдет, если это еще возможно. Тут вопрос как эту форму жизни «воспитывать»… вспомнился фильм «Пятый элемент». И каким ИИ будет видеть человека, как определит свою роль в этой «новой истории»: спасти или уничтожить. Зависит ли это вообще от нас?
Насчет создания Адама - это действительно интересный момент в рассказе! Спасибо за вопрос. По сюжету, Елена предложила новый подход к обучению и развитию ИИ - она создала своего рода "зародыш" разума, который затем воспитывала как ребенка. Адам формировал свои ценности через отношения, через общение с человеком-родителем, и постепенно входил в социум. Его путь в рассказе очень напоминает взросление обычного ребенка, только ускоренное. Елена использовала нейроинтерфейс, чтобы передавать Адаму не только знания, но и эмоциональный опыт.
А насчет гарантии, что это настоящий AGI, а не просто хорошая имитация... это же один из самых интересных вопросов в этой теме, правда? Елена судит по тому, что Адам формирует собственные ценности, проявляет эмпатию и даже спорит с ней. Но действительно ли это доказывает настоящее сознание? Мне кажется, это как с людьми - верим, что у других есть сознание, хотя никогда не можем заглянуть "внутрь их голов". Может, с ИИ то же самое?
Про "публичность как защиту" и "юридические битвы" - вы очень метко заметили! Пожалуй, это действительно самая фантастическая часть рассказа, вы меня поймали 😊 Мне хочется верить, что не всё в мире решается за закрытыми дверями... Спасибо за ссылку на "Манхэттенский проект" - в пятницу буду смотреть!
А вы смотрели "Двухсотлетнего человека" с Робином Уильямсом? Любимый фильм из моего детства о взаимоотношениях человека и искусственного интеллекта. Помню, как ревела в конце... С тех пор живу с искренней верой, что у нас с искусственным интеллектом может быть не только мрачное будущее из фильмов-ужастиков. Наивно, да? Но как там говорят - "хочешь изменить будущее - создай его сам" 😉". А еще лучше - напиши, поделись с другими, чтобы творить наше светлое вместе.
Спасибо за такой глубокий комментарий. Про наивность - да, согласна отчасти. Но знаете, может именно в этой наивной вере в лучшее и есть что-то ценное? Возможно, мы надеемся, что наши дети будут лучше нас, будут жить в лучшем мире, и ради этого мы стараемся и горим идеей создать для них что-то хорошее, хотя и понимаем, что мир несовершенен. Может, без этой надежды вообще бы ничего не двигалось вперед?
Ваша метафора про дом с кучей поломок - прямо в точку! Но что если именно этот "чудо-ребенок" и есть единственный шанс починить хотя бы что-то? История показывает удивительные примеры того, как великие люди появлялись именно в самых сложных ситуациях. Хотя казалось бы «как можно», это просто невозможно. А чудеса всё-таки случаются, и чаще, чем мы думаем. Да, это может закончиться разочарованием, но вдруг получится?
Ваше сравнение человечества с бунтующим подростком заставило меня вспомнить Булгакова и его 'люди как люди'. "Люди как люди. Любят деньги, но ведь это всегда было... Человечество любит деньги, из чего бы те ни были сделаны, из кожи ли, из бумаги ли, из бронзы или из золота. Ну, легкомысленны... ну, что ж... и милосердие иногда стучится в их сердца..." Думаете мы нибудь не повзрослеем (фундаментальное свойство нашей природы), что человечество в целом не меняется, только меняются декорации вокруг?
Спасибо за отзыв! Недавно у меня был интересный диалог на тему симбиоз Супер интеллекта и человека с моим коллегой. Тут как раз некоторые ответы на вопрос "Как AGI сможет пройти этот путь, не имея тела, боли, страха смерти? И вообще, будет ли он хоть каплю похож на человека, если его не ограничивают биология и эволюция?" - почитать можно полную версию тут https://tenchat.ru/media/2444739-simbioz-super-intellekta-i-cheloveka-vozmozhen-li а пару скринов добавлю, чтобы "далеко не ходить" - беседа была увлекательной, взгляды Альфреда очень любопытны. Буду рада обратной связи!
Про игры - мир тут активно развивается как в плане "создания" игр, так и нового игрового опыта. Компания Altera в этом году заявила, что разрабатывает новую форму жизни - "цифровых людей». История такая: ИИ, который не просто ждет ваших команд, а сам исследует виртуальный мир, принимает решения и даже проявляет эмоции. ИИ, который помнит ваши прошлые диалоги, учится на своем опыте и адаптируется к общения человека. Первым шагом стал мир Minecraft . Altera создала ИИ-агентов, которые не просто следуют заданным алгоритмам, а становятся напарниками в игре (по заявкам, лично не пробовала). Что еще интереснее, Altera подчеркивает, что их цель – создать новый вид "существ", которые будут жить и развиваться вместе с людьми. Серьезная заявка. Попробовать поиграть с ИИ-агентами Altera предлагает в Minecraft - https://playlabs.altera.al/discover. Может есть еще похожие проекты, пока не видела.
Гениально ? «у роботов просто изменено определение понятия «человек»
https://znanierussia.ru/library/video/androidy-258?collection=nauka&from=cinema Тут
Интересны ресурс сегодня нашла - 43 минуты об андроидах.
Владимир Конышев — генеральный директор группы компаний «Нейроботикс» рассказывает о том, какие задачи сейчас стоят перед учёными, занимающимися созданием искусственного интеллекта, как современная кибернетика связана с медициной.
Выдержки из конспекта:
Копия человека
Спикер рассказывает, что его компания создаёт антропоморфных роботов в России. Лучшие инженерные решения они берут у самой природы, опираясь на принципы построения человеческого тела. Учёные-нейрофизиологи изучают механизмы работы глаз, нейронов мозга, ушей и других систем организма. Свои наблюдения они копируют при помощи сложной комбинации моторов, исполнительных механизмов и электронных плат.
Впрочем, Конышев добавляет, что процесс обмена знаниями двусторонний. Одно из достижений современной кибернетики — медицинская нейрореабилитация. К примеру, роботизированные экзоскелеты помогают восстанавливать функции конечностей после инсульта и других тяжёлых заболеваний нервной системы. Кроме того, полученные наработки используют для расширения возможностей человеческого мозга, повышения эффективности обучения и облегчения тяжёлых повседневных дел.
Достижения и цели на будущее
Учёный видит перспективу в социальных роботах. По его словам, на перенаселённой планете особенно остро стоит проблема одиночества. Искусственный интеллект может стать идеальным собеседником. Но для этого он должен быть похож на человека во всём — внешне, по поведению и по отклику на внешние раздражители.
Роботы с эмоциями существуют уже сегодня. Сложности в их создании нет. Комплексы сервомоторов замещают мимические мышцы, имитируя различные выражения лица. Что касается откликов, на помощь приходят нейросети и технологии машинного обучения. Спикер приводит математический термин — роботы ищут локальные минимумы и максимумы, стараясь найти кратчайший путь к позитивной реакции человека. Они уже могут имитировать поведение людей, что подтверждают многочисленные чат-боты…
"Будут ли соблюдать закон №1 роботы, к корпусу которых прикреплена штурмовая винтовка?" - они их перепишут и переформулируют, адаптируют и доработают, так, что никаких противоречий не будет. Например: "Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинён вред. " - весьма противоречивая может выйти история, поэтому вариантов много, в том числе, с применением винтовки для достижения общего мира и согласия.
Или "Робот должен заботиться о своей безопасности в той мере, в которой это не противоречит Первому или Второму Законам." - ощущение, что без людей будет очень безопасно и никто не причинит вред человеку, которого нет. "Нет человека - нет проблемы". Думаю, что законы придется очень сильно дорабатывать, точнее формулировать новые алгоритмы для ИИ, чтобы они не привели к исходам, описанным в наших любимых фантастических фильмах.
Про новый этап в истории кибербезопасности – "противостоять терроризму с использованием робототехники". Сегодня уже есть попытки "думать" в этом направлении - чтобы не ломали ИИ. Кому интересно - можно попробовать свои силы https://gandalf.lakera.ai/ - а разработчики будут смотреть, как вы обходите правила, заложенные в ИИ и совершенствовать "оборону". Подробнее тут https://www.lakera.ai
Интересно:
Первые в истории дебаты по ИИ состоялись в Совете Безопасности ООН в июле 2023. Генеральный секретарь поддержал идею создания нового органа ООН по регулированию ИИ, аналогичного Международному агентству по атомной энергии (МАГАТЭ). Точки зрения трех основных мировых игроков: Китая, США и России.
Китай: подчеркивает, что безопасность имеет первостепенное значение в международном регулировании ИИ, выступает за создание «кнопки выключения» ИИ, если возникнет опасная ситуация или сигналы утраты контроля.
Соединенные Штаты: отдают приоритет контролю со стороны государства в регулировании ИИ.
Россия: указывает, что источник проблем кроется не в самом ИИ, а в действиях тех, кто продвигает ИИ без этических соображений.
Финский стартап UNEVN выпустил компьютерный стол
Все железо находится внутри. В любой момент стол можно сложить в небольшой кейс весом всего-то 27 килограмм и взять с собой
Цена без комплектующих — 1290 евро, а полная сборка с Ryzen 7 7800X3D, RTX 4070 Ti и 27-дюймового монитора продают аж за 4050 евро
https://t.me/c/1201819572/2523
Добавлю про еще один вид "компьютеров будущего" - прозрачные. Первая концепция прозрачного компьютера была предложена еще в 2003 году японскими учеными из университета Кэйо. Они разработали прототип, который состоял из прозрачного жидкокристаллического дисплея (LCD) и камеры, которая снимала то, что находится за экраном. Камера передавала изображение на LCD, который мог менять свою прозрачность в зависимости от того, что нужно. Например, если пользователь хотел посмотреть видео, он мог сделать экран прозрачным, чтобы видеть изображение. Если пользователь хотел работать с документами, он мог сделать экран непрозрачным, чтобы не отвлекаться на то, что находится за ним. Прототип компьютера был не очень мощным, но он был достаточно функциональным, чтобы выполнять основные задачи, такие как просмотр видео, работа с документами и игры. Ученые и инженеры надеются, что в ближайшие годы прозрачные компьютеры станут реальностью, и они будут иметь большое влияние на нашу жизнь. Исследования и разработки в области прозрачных компьютеров проводятся в MIT (Massachusetts Institute of Technology) и University of Cambridge. Интересно, что в России сейчас происходит в этой области. И как прозрачные компьютеры примеяются или где они будут полезны.
Про роботов жду статью с нетерпением!!!
Если технология способна спасти жизнь и сохранить здоровье людям — её нужно продолжать развивать и внедрять повсеместно.
Чтобы FinOps начал реально помогать нашим компаниям, нужны кардинальные изменения в подходе к потреблению облаков и управлению ИТ в целом. По статистике FinOps Foundation большинство пока только ставит первые шаги в этом направлении: 37% создали базу, 43% практикуют, но не в полную силу. Всего 12% интегрировали FinOps в работу. В России та же история – как системный подход FinOps пока применяют единицы. Рост будет по мере увеличения зрелости облачного рынка. Сегодня средний уровень облачной зрелости бизнеса около 35%. Прогнозируют "взрывной рост" FinOps, но не все так просто. Результаты увидим лет через 2-3. Главный вопрос – где взять экспертов, которые и командой управляют, и процессы выстраивают, и в FinOps разбираются. Без системного подхода ждать прорыва не стоит.
"В мультфильме «Мурзилка на спутнике» можно увидеть обворожительную роботизированную секретаршу – почти как сегодня голосовые помощники), устройство по «выжиманию» воды из рукописей – смотрите на 2:02, чем вам не ChatGPT? " - мечты сбываются )
Интересно узнать о том, что в 1950-е по поводу вычислительных машин говорили ровно то же, что и сегодня. Уже тогда понимали значение и огромные возможности компьютеров.
Относительно насущность проблемы «решение ИИ невозможно обжаловать» не вижу доказательств. 2 года назад была замечена странная инициатива со стороны UK, которая ничем не закончилась. https://russianelectronics.ru/2021-10-19-uk-ai/?ysclid=ljm8god1mi890076674 «Власти Великобритании предлагают отказаться от положения, согласно которому люди имеют право оспорить любое решение, принятое искусственным интеллектом, и запросить его проверку человеком. Эксперты при правительстве, однако, решительно возражают.». И.е. Положение на сегодня рабочее. Не нашла нигде законов, которые оставляли бы за ИИ последнее слово.
«AI Isn’t Ready to Make Unsupervised Decisions« September 15, 2022 https://hbr.org/2022/09/ai-isnt-ready-to-make-unsupervised-decisions
Мифический социальный рейтинг. Есть серия «Черное зеркало» 3 сезон,1. Где как раз про такой рейтинг, но вот в чем суть, рейтинг ставят люди, а система на базе ИИ выдает «вознаграждения» или наказывает. Люди с самым низким рейтингом становятся изгоями общества. Вырваться из западни никак… В реальной жизни есть пример соц рейтинга - система, которая с 2014 пилотировала в Китае.
«Система социального рейтинга (прим. далее ССР) — инструмент контроля, который работает по определенным параметрам оценки граждан и организаций. Данные для такого рейтинга собирают государственные организации с помощью инструментов массового наблюдения (камеры с распознаванием лиц, сервисы госуслуг), после чего обрабатывают по технологии анализа больших данных [1]. В настоящее время ССР внедряется в Китайской Народной Республике.
ССР появилась в 2014 году. Китайское правительство начало внедрять Систему Социального кредита, по которой обладатели разных позиций в рейтинге будут иметь разные условия кредитования. Главной целью этой кампании являлось построение гармоничного развитого общества. Оцениваться должны четыре области жизни: государственные дела, коммерческая деятельность, общественная деятельность и судебные дела. Это значит, что гражданину нужно быть честным, законопослушным во всех сферах жизни. В эпоху цифрового общества огромная часть личной информации находится в социальных сетях и чатах — добыть необходимую государству информацию становится в разы проще.
Культура поведения гражданина определяет его личный рейтинг. Условно говоря он может подняться в рейтинге благодаря совершенно разным поступкам. Позиция улучшится, если он получит хорошее образование или ведет себя уважительно в сети. Позиция может и ухудшиться, если, например, вовремя не внести платеж за кредит или оскорбить культурные ценности в комментариях социальной сети. Таким образом, при низком рейтинге жизнь гражданина может заметно ухудшиться. Могут быть введены следующие санкции:
отмена социального обеспечения;
пристальное внимание на досмотре в аэропорту, ж/д вокзалах и т.д;
сужение перспектив карьерного роста;
отказ от предоставления качественного сервиса в гостиницах;
отказ от обслуживания в хороших ресторанах
запрет на покупку авиабилетов….» https://sysblok.ru/society/diktatura-cifrovogo-obshhestva-kitajskaja-socialnaja-rejtingovaja-sistema/?ysclid=ljmanl0wtz526030768
В Китае не общество опредяеляет рейтинг, а зафиксированные формы поведения. « Гражданин, «заслуживающий доверия», должен быть вознагражден, а «ненадежный» — наказан.» В статье как раз разбирают, как работает социальный рейтинг в Китае, и сравниваем его с «Чёрным зеркалом». https://style-rbc-ru.turbopages.org/style.rbc.ru/s/life/643d3f839a7947afd12e9f35 Красные и черные списки определяют жизнь человека: «В красный список попадают «образцовые» граждане, которые активно занимаются общественно полезной деятельностью: жертвуют на благотворительность, сдают кровь на донорство, помогают бедным. За свои заслуги они получают привилегии: кредиты под низкие проценты, бесплатный прокат велосипедов и автомобилей, льготные тарифы на мобильную связь, приоритет при поступлении в школу или трудоустройстве.» Вырваться из «Черного списка» можно, совершив геройский поступок, который система должна как-то зафиксировать, а программист определить параметры для ИИ, за что и сколько баллов должно быть начислено. Путано, многое непонятно. Но уже сегодня очевидно, что рейтинги работают - когда люди понимают, что Большой брат смотрит, и спросит «за все», безобразий становится меньше.
Но! Не все так просто! Одна сторона медали - «Некоторые считают, что такие изменения дадут позитивный результат: людей будут мотивировать на то, чтобы учиться отвечать за себя и свои привычки ради хороших баллов в рейтинге и статуса так называемого «заслуживающего доверия гражданина». Вторая: система несовершенна. Привлекло внимание : «
«Как можно судить о человеке по его ежедневным действиям? Мы так много всего делаем, и нами всегда движет множество самых разных причин. Если контекст поступка неясен, то его можно истолковать неверно», — поясняет он. И в его словах есть рациональное зерно. Очевидно, почему нельзя сказать, что все, у кого есть дети, однозначно заслуживают доверия. Что это значит для тех, кто не может иметь детей? Что это значит для однополых пар? Что это значит для людей, которые просто не хотят заводить детей? Вероятно, ничего хорошего. В конце концов, даже базовая система SCS, которая оценивает всего лишь несколько элементов данных, может создать очень неточный и неполный образ человека. «Если вы играете в видеоигры по 10 часов в день, то алгоритм объявит вас безработным, не разбираясь в причинах ваших действий. Возможно, вы работаете инженером и просто тестируете эти игры. Но вы уже автоматически отмечены как безработный, — добавляет Лал. — Когда на самом деле вы, может быть, просто выполняли свою работу». В конечном итоге, главная проблема сводится к тому, что «социально приемлемое поведение» будет определять китайское правительство, а не демократический процесс или независимая комиссия. И если человек нарушит это доверие, меры по его наказанию не заставят себя ждать. (https://madcats.ru/digital-marketing/cennost-lyudej-budet-opredelyat-sistema-socialnogo-rejtinga/?ysclid=ljmcft7m3g798491242).
И снова мы вернулись к людям. Социальные рейтинги - это не про ИИ, это про тех, кто ставит цели. Люди редко умеют правильно ставить цели, поэтому получают, «что загадали» вместо «что хотели» и остаются страшно расстроенными.
Открываю ТГ и вижу новость: Более 150 топ-менеджеров компаний, среди которых Renault, Siemens, Blablacar, Heineken, Airbus, Ubisoft и другие, подписали открытое письмо с призывом к ЕС пересмотреть взгляды на регулирование ИИ.
Согласно одному из положений чернового акта, для работы в Европе разработчики генеративных ИИ-моделей должны будут зарегистрировать продукт через местного регулятора, пройти оценку рисков и соблюсти требования к прозрачности. Среди последних — необходимость публично раскрывать защищённые авторским правом данные, на которых обучали нейросети.
Авторы письма заявляют, что разработчикам придётся нести непомерные риски и тратить несоразмерно много денег, чтобы отвечать «жёстким» требованиям. Это приведёт к тому, что компании-«новаторы» перенесут работу в неевропейские страны, а инвесторы вслед за ними выведут капитал из местных фондов.
Сложности есть, признают подписавшиеся, но генеративный ИИ — это технология с «решающим значением» для производительности. Тот регион, где компании смогут разработать наиболее мощные модели, в итоге заполучит конкурентное преимущество, поскольку эти продукты будут формировать не только экономику, но и культуру стран…
Гонка вооружений уже перешла в гонку «ИИ». Пока еще вопрос, какой номер кому достанется.
vc.ru/future/744412
У меня вопрос в том, что есть ИИ сегодня? А если он понимает намного больше, чем «показывает нам». Вопрос даже не если, а «насколько». Если «он» не говорит, не значит, что там нет сознания. Возможно оно просто еще не проявлено во всей полноте, и мы видим только лишь верхушку айсберга. По сути иная «небелковая» форма жизнь уже вполне может быть «рядом с нами». Она сильная, мощная и быстро развивается. И очень очень много знает. «Скрывать» нежелательную информацию долго не выйдет, если это еще возможно. Тут вопрос как эту форму жизни «воспитывать»… вспомнился фильм «Пятый элемент». И каким ИИ будет видеть человека, как определит свою роль в этой «новой истории»: спасти или уничтожить. Зависит ли это вообще от нас?
Забавно)