Все живое, если оно является живым хранит программу, как сделать себя продолжить жизнь в ДНК. Подробности типа РНК, транскриптаз, системы отказоустойчивости и теневых копий вирусов я тут игнорирую, как не имеющие отношения к теме статьи. Но,заметим, если гомо сапиенс попадает в отряд обезьян, то выкарабкаться обратно очень сложно. Куда нас и погонит сильный ИИ, если его сделают. А вот ДНК возьмут нашу. Не зря 350 оснований в молекуле ДНК - рассчитал ИИ - минимальный самовоспроизводящийся организм. Кстати, за это хотят дать Нобелевскую премию.
Но и вашем послужном списке вряд ли будет даже гипотеза Римана о нулях дзета-функции, про уже доказанную гипотезу Пуанкаре GPT-4 уже знает. Науку делают молодые, а для ИИ пока человеческий возраст не придумали, как и много других интеллектуальных параметров, например IQ.
А наука, по-вашему, соревнование червей за обладание всЁ бОльшим числом неройронных сетей червей, которые своевременно не озаботились сходить в школу/почитать умную книжку. Интегралов взять пару сотен тысяч, чтобы почувствовать всю прелесть матана.
Делите желаемое и возможное. Принципиально новое не делает даже не каждый интеллект, пример этому - патентные споры из-за 8 строчек кода на Java, или, еще проще, патенты на владение тем или иным видом животного/растения. Кто мы: алгоритм, который растет, чтобы все вокруг умнело, или ум, который 80% определяется инстинктами (то есть безусловными алгоритмами в ДНК) - еще никто не решил.
Нет ни слова о скорости работы, кастомизации, курсов и вендоров. Красивые картинки без кнопки "сдалать хорошо" - как-то не то. Наверное, хотелось бы решения серьезной задачи на каждом из фреймворков, а не желание подсказать аналитику, чего есть в JS/Java для красоты. График - это не только о плоских областях, это еще и об удобстве пользования, скорости, стабильности, совместимости.
Этой идее уже лет 60 и ничего, вроде пока продается для рыночных продуктов. Пожалуйста, делите возможности железа, софта, маркетинга, удобства пользователей. Пока что в статье смесь сильного и слабого подхода к ИИ не разделена - мысль явно не ясна.
Короче, ищут специалиста для выхода на параллельную вселенную. Лучше бы телефоны дешевле сделали, или M3 не в школы двигали через закупки, а на мобильный рынок других производителей.
Народ! Так нельзя издеваться над корпоративным контентом. Учить писать взрослого технаря, это как забивать плоскогубцами железнодорожный костыль. То-то из песочницы выпадают потом статьи "Особенности животноводства процессорного времени", или уж совсем яркий пример "Как украсть сметаны у виртуального кота".
Автор, хороший вы человек, но есть такая наука о текстах, как текстология. И ни одним, даже сверхмощным и сверхсильным алгоритмом не пересилить как коллективное бессознательное редакции, так и отдельных авторов-переводчиков. С кармой за 200 можно самому учить любую GPT думать о тексте правильно )).
Чтобы получать нигерийские письма, ранее нужен был парсер на регулярке какой-нибудь из русскоязычных баз собственных имен. На часть букв регулярка не отрабатывала, поэтому появлялись имена "Генрих", "Иоганн", "Мохаммед" и другие популярные нигерийские имена русской почтовой службы. А теперь GPT-3 обучили эти же нигерийцы обучили его одному слову "обнимаю", о чем, собственно, и статья. Почему бы не посчитать число диалектов английского и, в целом, влияния обучения по корпусам языков Содружества.
Мои собственные публикации есть в моем профиле. Но меня интересуют именно технологические аспекты безопасности ИИ. Расшифрую немного, чем технологические отличаются от технических. 20 лет с BI научили меня тому, что любой род человеческой деятельности подчиняется моделям предметной области и нескольким сотням проверенных государством источников данных. Здесь же нет ни модели защиты источников, ни модели инфоугрозы при входящих данных. Следовательно, технологические аспекты не раскрыты совсем. Далее, теория "черного ящика" для большинства типов сетей и других аспектов машинного обучения есть в других публикациях, но технически, то есть с математическим обоснованием того, как создаются модели безопасности ИИ, желательно бы использовать доказанные теоремы существования решения типа теоремы Колмогорова. К сожалению, без декомпозиции отдельных достигнутых возможностей ИИ, их применить невозможно, так как компании испытывают "рыночное давление", "дороговизну данных для обучения", "фактор Илона Маска", "давление ускорения коммерциализации технологии", что и порождает большую часть проблем, перечисленных в статье.
Так что мне надо немного больше чем есть в статье, а именно математическое и технологическое обоснование безопасности всех видов угроз по каждой технологически применимой комбинации моделей ИИ. Понимаю, что это, вероятнее всего, монография с заметно большим объемом математики. Книги, издаваемые в Оксфорде и Кембридже мне известны, но и их авторы пока ставят больше вопросов, чем пытаются дать ответов.
А не может ли уважаемая BI.ZONE Brand Protection вспомнить хоть одну наказанную по УК РФ группу или отдельного человека, где бы фигурировало реальное лишение свободы за фишинговый сайт?
Хочется поблагодарить @Tapatakt за отличный перевод.
Всем, кто не осилит статью, ее пересказ в двух предложениях.
Наши (американские) ученые сделали неведомую хтонь, которую никто не знает как остановить, так как компании, ее изобретающие, поддерживаются транснациональными корпорациями, которые неохотно идут на выполнение даже существующих законов в своей юрисдикции. Как регулировать изобретение, которое само умнее многих адвокатов в прецедентном праве, пока еще неясно, но написать много страшилок для Конгресса уже надо. Значимость данного изобретения В.В. Путин отметил еще 2017 году, отсюда сразу следует, что бояться его (ИИ) надо во много раз сильнее.
Особенно смешит в статье, что ее автор на полном серьезе думает, что все указанные иллюстрации и указанные в разделах проблемы ранее не встречались в истории кибернетики. Жаль, что статью писал явно гуманитарий, так как технологические аспекты не раскрыты совсем.
Добрый день, коллега! Матрица 100 на 100 - совокупная размерность интегро-дифференциальных уравнений накопления, поглощения, катализа, преобразования, выведения нутрициентов. Коэффициенты и уравнения сделать линейными очень сложно - получается что-то типа Навье-Стокса системы с очень большой граничной матрицей. Сходили к классическим математикам - нет еще способа даже определить устойчивость такой системы аналитически и очень плохо - численно. Метод Галеркина и регуляризатор Тихонова на коэффициентах в 12 разных порядках (от нанограмм до килограмм действующей массы) - почти не работают. Симплекс-метод и его приближения сходят с ума чуть быстрее. Но учебники и рационы питания считаются именно ими.
Прочитал статью участковому терапевту. Долго искали хотя бы одну лабораторию в Москве, нормально выполняющую анализ на чувствительность к уровню белка-переносчика. Решили лечиться по-старинке, как говорил Жириновский "нож и клизма - вот и вся больница".
А, по-серьезному, интересно, кто это делал. Мы у себя на ML толкнули матрицу нутрициентов 100 на 100 размером - так такую систему уравнений и зависимостей никто просчитать не может. Здесь, на Хабре, написали статью - ушли в минуса, будто в стране и мире никто не ест и фитнесом не занимается. У вас же работа интереснее - как не навредить одному лекарству за счет другого. Тоесть то, что можно в сканированном виде найти в сети, вы пытаетесь просчитать заранее. Кстати, неплохо бы статью дополнить такой таблицей - "вычисленная пара несовместимости", "пара доказанная по листкам-вкладышам" от Минздрава или еще какой-нибудь авторитетной организации. А уж как для допинга бы это помогло, там же со следовыми количествами связанного белка ну очень любят работать!
Спасибо за выводы! Знал бы эти формулы лет 10 назад - не связывался бы с озвучиванием одного сильно проветриваемого места, когда волну буквально "сдувало" со школьной линейки в эхо относительно окружающих 10 и 24 этажных домов. Не таскал бы киловаттные колонки.
А уж как до пенсии дело дойдет - дело вообще будет швах!
И вишенкой на торте - отдельное железо для их же хотелок. То есть купил - лицензию на убийство своих данных подписал.
1) Gene E. Robinson, Russell D. Fernald, David F. Clayton. Genes and Social Behavior // Science. 2008. V. 322. P. 896–900. 2) Zoe R. Donaldson, Larry J. Young. Oxytocin, Vasopressin, and the Neurogenetics of Sociality // Science. 2008. V. 322. P. 900–904. 3) James H. Fowler, Darren Schreiber. Biology, Politics, and the Emerging Science of Human Nature // Science. 2008. V. 322. P. 912–914.
Сошлюсь на литературу по биологии.
https://www.techinsider.ru/science/news-1578957-karta-pereletov-pevchih-ptic-zapisana-v-dvuh-korotkih-fragmentah-genoma/?ysclid=lx5auwjcl885318365
Оригинал на английском: https://pubmed.ncbi.nlm.nih.gov/36631459/
DOI: 10.1038/s41467-023-35788-7
Все живое, если оно является живым хранит программу, как сделать себя продолжить жизнь в ДНК. Подробности типа РНК, транскриптаз, системы отказоустойчивости и теневых копий вирусов я тут игнорирую, как не имеющие отношения к теме статьи. Но,заметим, если гомо сапиенс попадает в отряд обезьян, то выкарабкаться обратно очень сложно. Куда нас и погонит сильный ИИ, если его сделают. А вот ДНК возьмут нашу. Не зря 350 оснований в молекуле ДНК - рассчитал ИИ - минимальный самовоспроизводящийся организм. Кстати, за это хотят дать Нобелевскую премию.
Но и вашем послужном списке вряд ли будет даже гипотеза Римана о нулях дзета-функции, про уже доказанную гипотезу Пуанкаре GPT-4 уже знает. Науку делают молодые, а для ИИ пока человеческий возраст не придумали, как и много других интеллектуальных параметров, например IQ.
А наука, по-вашему, соревнование червей за обладание всЁ бОльшим числом неройронных сетей червей, которые своевременно не озаботились сходить в школу/почитать умную книжку. Интегралов взять пару сотен тысяч, чтобы почувствовать всю прелесть матана.
Делите желаемое и возможное. Принципиально новое не делает даже не каждый интеллект, пример этому - патентные споры из-за 8 строчек кода на Java, или, еще проще, патенты на владение тем или иным видом животного/растения. Кто мы: алгоритм, который растет, чтобы все вокруг умнело, или ум, который 80% определяется инстинктами (то есть безусловными алгоритмами в ДНК) - еще никто не решил.
Нет ни слова о скорости работы, кастомизации, курсов и вендоров. Красивые картинки без кнопки "сдалать хорошо" - как-то не то. Наверное, хотелось бы решения серьезной задачи на каждом из фреймворков, а не желание подсказать аналитику, чего есть в JS/Java для красоты. График - это не только о плоских областях, это еще и об удобстве пользования, скорости, стабильности, совместимости.
Этой идее уже лет 60 и ничего, вроде пока продается для рыночных продуктов. Пожалуйста, делите возможности железа, софта, маркетинга, удобства пользователей. Пока что в статье смесь сильного и слабого подхода к ИИ не разделена - мысль явно не ясна.
Короче, ищут специалиста для выхода на параллельную вселенную. Лучше бы телефоны дешевле сделали, или M3 не в школы двигали через закупки, а на мобильный рынок других производителей.
Народ! Так нельзя издеваться над корпоративным контентом. Учить писать взрослого технаря, это как забивать плоскогубцами железнодорожный костыль. То-то из песочницы выпадают потом статьи "Особенности животноводства процессорного времени", или уж совсем яркий пример "Как украсть сметаны у виртуального кота".
Автор, хороший вы человек, но есть такая наука о текстах, как текстология. И ни одним, даже сверхмощным и сверхсильным алгоритмом не пересилить как коллективное бессознательное редакции, так и отдельных авторов-переводчиков. С кармой за 200 можно самому учить любую GPT думать о тексте правильно )).
Чтобы получать нигерийские письма, ранее нужен был парсер на регулярке какой-нибудь из русскоязычных баз собственных имен. На часть букв регулярка не отрабатывала, поэтому появлялись имена "Генрих", "Иоганн", "Мохаммед" и другие популярные нигерийские имена русской почтовой службы. А теперь GPT-3 обучили эти же нигерийцы обучили его одному слову "обнимаю", о чем, собственно, и статья. Почему бы не посчитать число диалектов английского и, в целом, влияния обучения по корпусам языков Содружества.
Отличная статья! Очень хорошие иллюстрации! ++
Мои собственные публикации есть в моем профиле. Но меня интересуют именно технологические аспекты безопасности ИИ. Расшифрую немного, чем технологические отличаются от технических. 20 лет с BI научили меня тому, что любой род человеческой деятельности подчиняется моделям предметной области и нескольким сотням проверенных государством источников данных. Здесь же нет ни модели защиты источников, ни модели инфоугрозы при входящих данных. Следовательно, технологические аспекты не раскрыты совсем. Далее, теория "черного ящика" для большинства типов сетей и других аспектов машинного обучения есть в других публикациях, но технически, то есть с математическим обоснованием того, как создаются модели безопасности ИИ, желательно бы использовать доказанные теоремы существования решения типа теоремы Колмогорова. К сожалению, без декомпозиции отдельных достигнутых возможностей ИИ, их применить невозможно, так как компании испытывают "рыночное давление", "дороговизну данных для обучения", "фактор Илона Маска", "давление ускорения коммерциализации технологии", что и порождает большую часть проблем, перечисленных в статье.
Так что мне надо немного больше чем есть в статье, а именно математическое и технологическое обоснование безопасности всех видов угроз по каждой технологически применимой комбинации моделей ИИ. Понимаю, что это, вероятнее всего, монография с заметно большим объемом математики. Книги, издаваемые в Оксфорде и Кембридже мне известны, но и их авторы пока ставят больше вопросов, чем пытаются дать ответов.
А не может ли уважаемая BI.ZONE Brand Protection вспомнить хоть одну наказанную по УК РФ группу или отдельного человека, где бы фигурировало реальное лишение свободы за фишинговый сайт?
Неплохо, это так таргентная медицина движется кем-то куда-то? А почему не написать кем и куда? Подходы реально интересные.
Хочется поблагодарить @Tapatakt за отличный перевод.
Всем, кто не осилит статью, ее пересказ в двух предложениях.
Наши (американские) ученые сделали неведомую хтонь, которую никто не знает как остановить, так как компании, ее изобретающие, поддерживаются транснациональными корпорациями, которые неохотно идут на выполнение даже существующих законов в своей юрисдикции. Как регулировать изобретение, которое само умнее многих адвокатов в прецедентном праве, пока еще неясно, но написать много страшилок для Конгресса уже надо. Значимость данного изобретения В.В. Путин отметил еще 2017 году, отсюда сразу следует, что бояться его (ИИ) надо во много раз сильнее.
Особенно смешит в статье, что ее автор на полном серьезе думает, что все указанные иллюстрации и указанные в разделах проблемы ранее не встречались в истории кибернетики. Жаль, что статью писал явно гуманитарий, так как технологические аспекты не раскрыты совсем.
Добрый день, коллега! Матрица 100 на 100 - совокупная размерность интегро-дифференциальных уравнений накопления, поглощения, катализа, преобразования, выведения нутрициентов. Коэффициенты и уравнения сделать линейными очень сложно - получается что-то типа Навье-Стокса системы с очень большой граничной матрицей. Сходили к классическим математикам - нет еще способа даже определить устойчивость такой системы аналитически и очень плохо - численно. Метод Галеркина и регуляризатор Тихонова на коэффициентах в 12 разных порядках (от нанограмм до килограмм действующей массы) - почти не работают. Симплекс-метод и его приближения сходят с ума чуть быстрее. Но учебники и рационы питания считаются именно ими.
Прочитал статью участковому терапевту. Долго искали хотя бы одну лабораторию в Москве, нормально выполняющую анализ на чувствительность к уровню белка-переносчика. Решили лечиться по-старинке, как говорил Жириновский "нож и клизма - вот и вся больница".
А, по-серьезному, интересно, кто это делал. Мы у себя на ML толкнули матрицу нутрициентов 100 на 100 размером - так такую систему уравнений и зависимостей никто просчитать не может. Здесь, на Хабре, написали статью - ушли в минуса, будто в стране и мире никто не ест и фитнесом не занимается. У вас же работа интереснее - как не навредить одному лекарству за счет другого. Тоесть то, что можно в сканированном виде найти в сети, вы пытаетесь просчитать заранее. Кстати, неплохо бы статью дополнить такой таблицей - "вычисленная пара несовместимости", "пара доказанная по листкам-вкладышам" от Минздрава или еще какой-нибудь авторитетной организации. А уж как для допинга бы это помогло, там же со следовыми количествами связанного белка ну очень любят работать!
Спасибо за выводы! Знал бы эти формулы лет 10 назад - не связывался бы с озвучиванием одного сильно проветриваемого места, когда волну буквально "сдувало" со школьной линейки в эхо относительно окружающих 10 и 24 этажных домов. Не таскал бы киловаттные колонки.