при надлежащей архитектуре машины можно добиться того, чтобы она делала логически непротиворечивые преобразования, в конце концов, давая-таки решение задачи, не опираясь только лишь на “насобаченность” весов
По большому счёту, согласен с вами. Но в том-то и прикол, что llm с текущей архитектурой не думает, а имитирует думание (весьма правдоподобно! чем сбивает с толку многих).
Так что до пресловутой сингулярности с суперинтеллектом нужно не увеличение обучающих выборок, числа параметров или мощности видеокарт, а как минимум ещё один качественный научный прорыв уровня paper'а "Attention is all you need" (2017), а когда он будет и будет ли вообще, никто не знает.
О разном субъективном личном опыте. Но если не уходить совсем в философию (а там и до разных противоречащих друг другу версий математики недалеко), то llm таким опытом не обладает. "Здравый смысл llm" - это не "думать", задавая правильные вопросы (опираясь на личный опыт), а выдавать правдоподобные ответы (опираясь на "насобаченность" весов). Это как разница между реальным врачом и актёром в роли врача. Актёр может какие-то темы даже вызубрить, звучать очень убедительно. Но стали бы вы у него лечиться? И тут вы говорите, ну да, актёр иногда даёт неверные ответы, проблема в малой обучающей выборке, ограниченности знаний. Ок, давайте посадим актёра за компьютер с доступом ко всем медицинским справочникам мира. Станет сильно лучше? Современный "ИИ" знает всё, но не понимает ничего. Имхо.
Значит, нужное решение в принципе находится где-то в пространстве возможных весов, просто обучение до него не доходит — не хватает или данных, или подсказок, или оно сваливается в решение попроще
Что-то подобное можно сказать про обучение LLM умножению. 2*2 легко ответит, может и 15*16 и т.п. правильно посчитает. А дальше - не работает... Можно говорить, обучение какое-то не такое, данных мало и пр. Но проблема, имхо, фундаментальная - отсутствие у LLM здравого смысла, а вместо него - лишь имитация оного...
Свою компанию Keragon, которая автоматизирует административную рутину медучреждений, он основал еще до диагноза.
Учитывая это интересное совпадение, история вполне может оказаться обыкновенным пиаром.
По крайней мере, для невнимательного читателя это выглядит как "история успеха с ИИ", но реальность иная: биопсия подтвердила редкую и опасную болячку, после курса лечения Claude предположила, что данные PET скана ложноположительные - и человек решил положиться на "мнение" Claude, которое совпадало с мнением лишь одного из четырёх врачей.
Но оказался ли Claude "прав" и чем всё закончилось, история умалчивает.
Crowdsec - типичный облачный сервис, со своими плюсами и минусами.
Да, вы имеете доступ к общему списку блокировок, но и зависеть начинаете от "чего-то из вне". Что если третьей стороной в тот список добавятся неверные данные? Что если сервис будет недоступен для вас, перестанет обновляться по любой причине? Что если сервис начнёт сливать ваши данные, до чего дотянется? У fail2ban этих проблем нет - он локальный.
Kanban честно визуализирует поток задач, но при малейшем отсутствии дисциплины превращается в кладбище бесконечно висящих стикеров в колонке «в процессе» и легитимизирует многозадачность на грани нервного срыва.
При отсутствии дисциплины и не следовании правилам любая методология начинает хромать на обе ноги.
Kanban как раз-таки наоборот прямо запрещает более одной задачи в статусе а-ля in progress у исполнителя.
Неподготовленному человеку (кто раньше не занимался или имеет противопоказания: большой лишний вес, больные суставы, травмы связок и т.п.) начинать надо не с бега, а с ходьбы по 1-2 часа в день. ИМХО. А так - молодцы.
Даёт удобство развёртывания в обмен на жертву некоторой степени производительности, безопасноcти и необходимости поддерживать доп. инструмент. В какую сторону и насколько склоняться - вопрос конкретного проекта. It depends.
Хз никогда не работал с подманом.
Где прописали, там и будут) или это вопрос на знание команды docker logs и подобных?
читать программу сложнее, чем писать.Потому что для чтения - требуется понимание. А для написания это необязательно - можно писать небрежно, можно копипастить из stackoverflow и всяких "ИИ" и т.п.
В разработке с "ИИ", ревью от опытного специалиста - это и есть бутылочное горлышко. Реальная революция начнётся тогда, когда "ИИ" начнёт решать задачи без или с минимальным ревью. Пока это не так, так что хайпа больше, чем реального прироста производительности.
LLM это не разработка, а имитация разработки. Иногда прокатывает, а иногда нет. Но самое интересное начинается, когда не прокатило и надо в сжатые сроки вникнуть в наспех нагенеренную белиберду...
так баг может вылазить на границах, когда нагрузочные равномерно давят по максимуму.
Это означает: забили на пользовательские сценарии и дата флоу. Или по-другому: нет времени думать, запиливай в продакшн быстро! У нас квартальный отчёт в понедельник! =) Не, понимаю, такое бывает. Проблемы начинаются, когда такое систематически и техдолг растёт аки снежный ком.
пока крупные компании пытаются заменить разработчиков искусственным интеллектом, сами разработчики избавляются от потребности в крупных компаниях с помощью ИИ))
По большому счёту, согласен с вами. Но в том-то и прикол, что llm с текущей архитектурой не думает, а имитирует думание (весьма правдоподобно! чем сбивает с толку многих).
Так что до пресловутой сингулярности с суперинтеллектом нужно не увеличение обучающих выборок, числа параметров или мощности видеокарт, а как минимум ещё один качественный научный прорыв уровня paper'а "Attention is all you need" (2017), а когда он будет и будет ли вообще, никто не знает.
О разном субъективном личном опыте. Но если не уходить совсем в философию (а там и до разных противоречащих друг другу версий математики недалеко), то llm таким опытом не обладает. "Здравый смысл llm" - это не "думать", задавая правильные вопросы (опираясь на личный опыт), а выдавать правдоподобные ответы (опираясь на "насобаченность" весов). Это как разница между реальным врачом и актёром в роли врача. Актёр может какие-то темы даже вызубрить, звучать очень убедительно. Но стали бы вы у него лечиться? И тут вы говорите, ну да, актёр иногда даёт неверные ответы, проблема в малой обучающей выборке, ограниченности знаний. Ок, давайте посадим актёра за компьютер с доступом ко всем медицинским справочникам мира. Станет сильно лучше? Современный "ИИ" знает всё, но не понимает ничего. Имхо.
Интересный текст.
Что-то подобное можно сказать про обучение LLM умножению. 2*2 легко ответит, может и 15*16 и т.п. правильно посчитает. А дальше - не работает... Можно говорить, обучение какое-то не такое, данных мало и пр. Но проблема, имхо, фундаментальная - отсутствие у LLM здравого смысла, а вместо него - лишь имитация оного...
Автор, браво, блестящие наблюдения.
Учить незачем. Это вопрос исключительно личной любознательности.
Учитывая это интересное совпадение, история вполне может оказаться обыкновенным пиаром.
По крайней мере, для невнимательного читателя это выглядит как "история успеха с ИИ", но реальность иная: биопсия подтвердила редкую и опасную болячку, после курса лечения Claude предположила, что данные PET скана ложноположительные - и человек решил положиться на "мнение" Claude, которое совпадало с мнением лишь одного из четырёх врачей.
Но оказался ли Claude "прав" и чем всё закончилось, история умалчивает.
Crowdsec - типичный облачный сервис, со своими плюсами и минусами.
Да, вы имеете доступ к общему списку блокировок, но и зависеть начинаете от "чего-то из вне". Что если третьей стороной в тот список добавятся неверные данные? Что если сервис будет недоступен для вас, перестанет обновляться по любой причине? Что если сервис начнёт сливать ваши данные, до чего дотянется?
У fail2ban этих проблем нет - он локальный.
При отсутствии дисциплины и не следовании правилам любая методология начинает хромать на обе ноги.
Kanban как раз-таки наоборот прямо запрещает более одной задачи в статусе а-ля in progress у исполнителя.
Можно и к инту кастануть:
<?= (int) $n ?>
Неподготовленному человеку (кто раньше не занимался или имеет противопоказания: большой лишний вес, больные суставы, травмы связок и т.п.) начинать надо не с бега, а с ходьбы по 1-2 часа в день. ИМХО.
А так - молодцы.
Заблуждения обывателей о разработке через ИИ. Мнение разработчика
Ай хорош!
С этими вредителями надо что-то делать...
Даёт удобство развёртывания в обмен на жертву некоторой степени производительности, безопасноcти и необходимости поддерживать доп. инструмент. В какую сторону и насколько склоняться - вопрос конкретного проекта. It depends.
Хз никогда не работал с подманом.
Где прописали, там и будут) или это вопрос на знание команды docker logs и подобных?
https://habr.com/ru/articles/937844/comments/#comment_28718842
https://habr.com/ru/articles/1015730/comments/#comment_29731246
https://habr.com/ru/articles/1021494/comments/#comment_29806754
Это означает: забили на пользовательские сценарии и дата флоу. Или по-другому: нет времени думать, запиливай в продакшн быстро! У нас квартальный отчёт в понедельник! =) Не, понимаю, такое бывает. Проблемы начинаются, когда такое систематически и техдолг растёт аки снежный ком.
Согласен, на практике так и есть.
А как же нагрузочные тесты?
В точности мои мысли уже года два как.
Потому что "не можете", понятно? Владельцы заводов-пароходов хотят себе денег, а не проблем. (sarcasm)
Раз статистика в 1000 откликов не устраивает, надо "точечно" проверить, чтоб результаты и вызываемые ими эмоции были как задумано.