Comments 16
Вроде как сингулярность - это когда мы не успеваем проследить за прогрессом в связи с тем, что ИИ сам себя изменяет быстрее, чем мы это понимаем.
В данный момент ИИ все еще повторяет то, что мы и сами умеем делать.
Как можно отделить "нет возможности на практике" от "в теории при наличии людей и денег возможно за обозримое время". Думаю для общества важнее реальные решения от ИИ, то что в теории возможно выделить денег, людей и время мало что меняет. Например ЛЛМ решил одну из давних задач Эрдыша. Люди ее принципиальнго не могли решить или руки не доходили просто? Как это определить?
А как можно считать наличия блек бокса признаком сингулярности? блек боксы были даже в Древнем Египте. Никто не знал как вода течет, просто на практике определяли.
Куча задач уже полвека решается по методу Монте-Карло. Тоесть метод - тоже сингулярность? Ведь без него до задач "руки не доходили".
Сингулярность будет когда по экспоненте начнет увеличиваться сложность. Пока такого не наблюдается.
Сложность решаемых задач как раз растет по экспоненте. ЛЛМ не обязан решать вообще любую задачу в мире лучше человека по критериям опять же случайного человека. Для экономики и общества важнее что мы делегировали ЛЛМ принятие решений, ход которых мы не можем контролировать. Пока не везде, но это будет неизбежно.
ИИ создаёт более лучший ИИ, который создаёт более лучший ИИ.....без вмешательства человека, самое простое определение сингулярности
Еще вариант с вмешательством человека, лично ИИ ничего не нужно, а человек может дать ТЗ-промт на улучшение модели ИИ по каким-то параметрам. Кроме кода ИИ железо оптимизирует, причем так что люди не понимают как он это делает
https://habr.com/ru/articles/873038/?ysclid=mksvy2gl5586497906
ИИ создает по заданным параметрам сложные электромагнитные структуры и связанные с ними схемы в микрочипах. То, что раньше занимало недели высококвалифицированной работы, теперь можно выполнить за несколько часов. Более того, ИИ, лежащий в основе новой системы, создал конструкции с необычными схемными узорами. Каушик Сенгупта (Kaushik Sengupta), ведущий исследователь, отметил, что эти конструкции неочевидны и вряд ли могли бы быть разработаны человеческим разумом. Однако они часто демонстрируют значительные улучшения даже по сравнению с лучшими стандартными чипами. «Мы создаем структуры, которые сложны и выглядят случайно, но при подключении к схемам они обеспечивают ранее недостижимую производительность. Люди не могут полностью понять их, но они работают лучше,» — сказал Сенгупта, профессор электротехники и компьютерной инженерии, а также содиректор программы NextG Принстона, направленной на развитие коммуникаций следующего поколения. ... ...
Вы представляете что кто то нажал на кнопочку и на месте компьютера образовалась черная дыра, так что ли? У софта нет прямого доступа к физическому миру, как минимум дата-центры и вся прочая инфраструктура должна достраиваться человеком
Что такое технологическая сингулярность это надо у Ханну Райаниеми прочитать.
Блин. Мой код, который я написал полгода назад, тоже достиг сингулярности. Ибо, по мнению автора, я вообще не понимаю почему он ведёт себя так как ведёт ))))
Сингулярность это посложнее будет, как указывают многие комментаторы. Это не просто про непонимание приятных решений.
Если вы считаете себя умнее Илона Маска почему он триллионер, а не вы?
Смысл сингулярности в общественном контексте в том что люди полностью делегируют решения ИИ без его контроля и доверяясь ему полностью, а не в том что вы что то не поняли
Может потому что у него родители не из инженеров 90-х, которые не могли позволить даже вышку детям и приходилось учиться за бюджет побеждая на олимпиадах и т.п
А ещё он хайпожор, так как это его миллиарды - делает он половину на хайпе. Ибо столько денег в том числе и его в ИИ, что у него нет выбора. Брать термин, популизировать его, отрывать от науки, и убеждать хомяков, что их инвестиции дают результат.
ИИ сингулярности пока достигли только менеджеры высшего звена, продающие ИИ. Конечный пользователь ИИ, если не будет понимать почему ИИ ему выдал то, что выдал, сделает нерабочий продукт. Или бомбу для своих последователей.
Статья для Хайпа, на основе высказывания Хайпожора мирового уровня. Не более.
Ну и полагаться тупо на результаты, которые вы собрали и даже не проверить. А вы уверены, что они верны? Я нет.
А кто по вашему реальные пользователи скажем Фейсбука? Явно не те кто там держит профили, а правительство и корпорации которые проводят модерацию и продвигают свои продукты и идеи. Вы почему то представляете что синугулярсность это говорящая черная дыра из футурамы. Соответственно и чек лист простой - есть под столом такая дыра/нет. Статью как говорится можно и не читать - достаточно заглянуть под стол и проверить. Хотя писал я совсем о другом
Не претендую на объективность, но рост качества кода, генерирумого ИИ, можно отнести к тому, что в 23-24 годах дали возможность скачать данные со stackoverflow, github и других подобных ресурсов. То есть, модели нейросетей не получили толику интеллекта, просто им скормили огромные наборы примеров кода. Ну и, само-собой, улучшили внутренние статистические алгоритмы. Я сейчас работаю с не сильно популярным фреймворком, по которому пока не наработана кодовая база, и в 99% случаев ИИ мне никак не помогает. Приходится лезть внутрь и, как встарь, ковыряться в кошках библиотек.
Я стараюсь избегать термин ИИ потому что сразу есть соблазн сравнивать с человеком и конечно находить разницу. Интеллекта и сознания там нет, есть новый способ решать большой класс задач
Ещё используемая модель влияет. Например: Модели тренированные на коде 2024 года (DeepSeek и другие китайцы) не знают об изменившихся API библиотек, код будет не рабочий из-за этих ошибок. Хотя нагенерировать может много. Я использую плагин GigaCode в IDE, там обучение посвежее, ошибок меньше. Нейросетка встроенная в поисковик Google знает свежие версии библиотек, ошибок не делает, но и кода много не нагенерирует и контекстом свои скрипты и проект не добавишь, но для небольших фрагментов нормально.
Модели можно давать схемы API импортируемых функций библиотек. Вроде: функция abc принимает какие-то параметры таких-то типов, выдает такие-то параметры и типы. Или дать документацию библиотеки или определения функций. На основе этого модель напишет код.
ИИ пока даёт уменьшение издержек в некоторых областях, и некоторые новые возможности, если эта автоматизация увеличивает скорость принятия решений.
Примерно как изобретение быстрых эвм в своё время.
ЗЫ переход всей индустрии на электродвигатели занял 20лет, хотя выгода была очевидна сразу.
ИИ-сингулярность пришла, просто это ещё не все заметили