Не уверен, что тут в бездумном внедрении дело. Вопрос - стоит ли сейчас изучать языки программирования, стоит вне зависимости от внедрения. И перед студентами, и перед программистами. Равно как и вопрос, как оценивать работу, если большую её часть сделал ИИ.
Вывод у MIT совсем не "при повсеместном внедрении выхлоп (пока) не значительный в разрезе SDLC". У них вывод другой: многие привычные процессы разрушаются из-за ИИ. Нужно срочно чинить. Я подобное замечаю и у себя на работе. Но первый раз вижу репорт, который эту тему вообще рассматривает внимательно.
Мне показалось, что Ын сам не знает, что хочет сказать. То ли нужно программировать, то ли нет. Когда не знаешь, что хочешь сделать, и получается 95% неудач (тот доклад я тоже читал). При том, что именно такие люди как Эндрю Ын вроде бы и должны знать.
Вообще существует некая профессиональная этика, которая поразумевает, что на работе мы печёмся только о коммерческом благе компании. Хотя очевидно, что все пекутся прежде всего о своём благе. Одна из идей доклада именно в том, чтобы в момент ИИ-трансформации не забыть об интересах сотрудников.
P.S. Никто не мешает сотридникам думать и об общественном благе (в том числе под видом копроративного). Например, сделать ИИ-помошника вместо ИИ-заменителя.
Довольно удивительно, как много обсуждений вызывает простой пост. Сдаётся мне, что для принятия закона следовало писать письмо не в интернет, а в сенат. И сдаётся мне, Дарио отлично это понимает. Потрындят и разойдутся.
Любопытно было бы ещё посмотреть независимые оценки бюджета этого взлома. Сейчас говорят, что "решение" Навье-Стокса стоило OpenAI токенов на 10 млн. Если RubyGems они тоже взломали за несколько миллионов - то мне кажется кожаные мешки справились бы сильно дешевле.
Кстати говоря, я думаю что пиарщики фейбука приложили очень много усилий, чтобы любое ограничение на фейсбук воспринималось именно так. Чтобы люди сами не хотели, чтобы фейсбук, непример, требовал с них документы с датой рождения.
Хотя по современным меркам сделать сервис, который бы надёжно проверял дату рождения по паспорту, а потом удалял все персональные данные, не очень сложно. И обеспечить ему прозрачную работу тоже не сложно (например, независимый лицензируемый государством оперсорсный сервис). Специалистов и денег у фейсбука на это точно хватит. Но они конечно вместо этого будут рассказывать страшные истории про то, как сам фейсбук будет хранить банковские карты и паспорта людей. А потом они ещё и утекут хакерам.
Не вижу что-то, как именно Фейсбук будет детектировать подростков. Они сами будут вводить дату рождения? Кажется, при таком подходе это всё может не сработать
Добавлю, что люди, работающие полный рабочий день на удержание детей в фейсбуке проходят жёсткий отбор на собеседованиях. Там действительно работают одни из лучших специалистов в индустрии. И получают одну из лучших зарплат в индустрии (особенно до бума ИИ)
Строго говоря, взлом чужих серверов является уголовным преступлением. В данном случае расследуют это преступление сами же подозреваемые. Почему мы должны верить хоть единому их слову? Какова вероятность, что они не приврали в самом важном месте? Разве не каждое официальное сообщение от OpenAI проходит согласование с их отделом PR (особенно в преддверии IPO)?
Кстати говоря - в Германии семейное обучение вообще запрещено. Потому что право ребёнка на общение со сверстниками ставится выше права родителей по контролю над детьми. Выглядит разумно как по мне.
Мне кажется это не решение. Это дополнительная проблема. Ведь конкуренты тоже смогут делать инфернс за копейки, придётся с ними конкурировать - так что большой маржи не заработаешь. И даже наоборот - если чят будет работать на каждом смартфоне локально - зачем 100500 датацентров.
Большую часть времени я осознаю себя, т.е. какая-то часть моего мозга оценивает происходящее со мной. Например, когда я хожу, я сознательно словами продумываю, куда мне надо повернуть и зачем. За исключением случаев, когда гуляю бессознательно, размышляя о чём-то постороннем. Когда общаюсь, то либо сознательно словами продумываю мою реакцию или ответ, либо уже непосредственно словами отвечаю (не внутренний диалог).
С книгой тоже в некотором роде общение словами. За исключением случаев, когда я задумываюсь о чём-то другом, бессознательно проглатывая слова из книги.
Как я понимаю, никто не может осознанно воспринимать сырую информацию - ультразвук или красный цвет. До осознанного переживания добирается сильно переработанная информация (т.е. после большого количества слоёв нейронной сети).
Чисто теоретически, никто не мешает возбуждать более глубокие слои сети, чтобы человеку казалось, что он видит красный цвет, при том, что нейроны глаза могут вообще молчать. С точки зрения сознания разницы нет, т.е. человек не сможет вам ответить, что он видит разницу. Уже сейчас проводят эксперименты, возбуждая зрительную кору. И даже слепой "видит" фосфены, т.е. вспышки света. Пока, конечно, точность таких экспериментов очень низкая
Не уверен, что такое квалиа. Но видеть - это точно не сознание. Вон меня только что увидела камера, распознала мой номер и открыла шлагбаум. Т.е. увидела и приняла решение. Но вряд ли это можно назвать сознанием. Автор книги определяет сознание прежде всего как внутренний диалог и представление о самом себе. Для принятия даже сложных решений (для которых нужен большой мозг) внутренний диалог не является необходимым. По сути идея автора в том, что правое полушарие мозга бессознательно обрабатывало большой объём информации и принимало сложные решения, которые потом сообщало левому полушарию. Которое, в свою очередь, это решение исполняло, используя все доступные когнитивные ресурсы.
Никем не проверяемых ресурсов очень много. Сейчас принято делать микросервисы. А с Claude-code один человек может тянуть целый сервис, а то и несколько. Причём часто заводят отдельные AWS аккаунты на DEV, STG и PRD. Получается какой-нибудь джуниор или просто раздолбай может обладать несколькими облачными аккаунтами, за которые платит компания. Где гарантия, что он точно отслеживает все события и траты на этих аккаунтах? Скажем - лишние 500$ трат - это сбежавший чятик или увеличение количества пользователей сервиса. Ответить бывает сложно - FinOps инженеры не дадут соврать.
Целеполагание и алгоритмы минимизации у амёбы есть. Но внутренний мир то откуда?
Кстати про "какого быть летучей мышью" Мне кажется теоретически это вполне осуществимо. Человеческий мозг скорее всего во всём превосходит мышиный. Его надо лишь опустить до нужного уровня. Это можно сделать, если уметь точечно подавлять/возбуждать разные когнитивные функции. Пока вроде не умеют, но это не невозможно.
При этом видимо придётся подавить и сознание. Т.е. человек будет не осознавать себя мышью. Но сможет потом повспоминать, какого это - быть мышью.
Не уверен, что тут в бездумном внедрении дело. Вопрос - стоит ли сейчас изучать языки программирования, стоит вне зависимости от внедрения. И перед студентами, и перед программистами. Равно как и вопрос, как оценивать работу, если большую её часть сделал ИИ.
Вывод у MIT совсем не "при повсеместном внедрении выхлоп (пока) не значительный в разрезе SDLC". У них вывод другой: многие привычные процессы разрушаются из-за ИИ. Нужно срочно чинить. Я подобное замечаю и у себя на работе. Но первый раз вижу репорт, который эту тему вообще рассматривает внимательно.
Мне показалось, что Ын сам не знает, что хочет сказать. То ли нужно программировать, то ли нет. Когда не знаешь, что хочешь сделать, и получается 95% неудач (тот доклад я тоже читал). При том, что именно такие люди как Эндрю Ын вроде бы и должны знать.
Мне казалось на Хабре пишут в основном айтишники. Я сам айтишник, пишу про IT. Нашёл доклад про ИИ (который тоже IT).
Про добычу нефти, признаться, ничего не знаю. Но и не пишу о ней.
Да я вроде и не собирался его продавать.
Вообще существует некая профессиональная этика, которая поразумевает, что на работе мы печёмся только о коммерческом благе компании. Хотя очевидно, что все пекутся прежде всего о своём благе. Одна из идей доклада именно в том, чтобы в момент ИИ-трансформации не забыть об интересах сотрудников.
P.S. Никто не мешает сотридникам думать и об общественном благе (в том числе под видом копроративного). Например, сделать ИИ-помошника вместо ИИ-заменителя.
Довольно удивительно, как много обсуждений вызывает простой пост. Сдаётся мне, что для принятия закона следовало писать письмо не в интернет, а в сенат. И сдаётся мне, Дарио отлично это понимает. Потрындят и разойдутся.
Любопытно было бы ещё посмотреть независимые оценки бюджета этого взлома. Сейчас говорят, что "решение" Навье-Стокса стоило OpenAI токенов на 10 млн. Если RubyGems они тоже взломали за несколько миллионов - то мне кажется кожаные мешки справились бы сильно дешевле.
Кстати говоря, я думаю что пиарщики фейбука приложили очень много усилий, чтобы любое ограничение на фейсбук воспринималось именно так. Чтобы люди сами не хотели, чтобы фейсбук, непример, требовал с них документы с датой рождения.
Хотя по современным меркам сделать сервис, который бы надёжно проверял дату рождения по паспорту, а потом удалял все персональные данные, не очень сложно. И обеспечить ему прозрачную работу тоже не сложно (например, независимый лицензируемый государством оперсорсный сервис). Специалистов и денег у фейсбука на это точно хватит. Но они конечно вместо этого будут рассказывать страшные истории про то, как сам фейсбук будет хранить банковские карты и паспорта людей. А потом они ещё и утекут хакерам.
Не вижу что-то, как именно Фейсбук будет детектировать подростков. Они сами будут вводить дату рождения? Кажется, при таком подходе это всё может не сработать
Добавлю, что люди, работающие полный рабочий день на удержание детей в фейсбуке проходят жёсткий отбор на собеседованиях. Там действительно работают одни из лучших специалистов в индустрии. И получают одну из лучших зарплат в индустрии (особенно до бума ИИ)
Отдельным родителям тягаться с этим трудновато
Строго говоря, взлом чужих серверов является уголовным преступлением. В данном случае расследуют это преступление сами же подозреваемые. Почему мы должны верить хоть единому их слову? Какова вероятность, что они не приврали в самом важном месте? Разве не каждое официальное сообщение от OpenAI проходит согласование с их отделом PR (особенно в преддверии IPO)?
Кстати говоря - в Германии семейное обучение вообще запрещено. Потому что право ребёнка на общение со сверстниками ставится выше права родителей по контролю над детьми. Выглядит разумно как по мне.
Да - инференс - это хороший бизнес. Но только чтобы выплатить долг в 3 трлн нужно гораздо больше, чем просто хороший бизнес.
Мне кажется это не решение. Это дополнительная проблема. Ведь конкуренты тоже смогут делать инфернс за копейки, придётся с ними конкурировать - так что большой маржи не заработаешь. И даже наоборот - если чят будет работать на каждом смартфоне локально - зачем 100500 датацентров.
Большую часть времени я осознаю себя, т.е. какая-то часть моего мозга оценивает происходящее со мной.
Например, когда я хожу, я сознательно словами продумываю, куда мне надо повернуть и зачем. За исключением случаев, когда гуляю бессознательно, размышляя о чём-то постороннем.
Когда общаюсь, то либо сознательно словами продумываю мою реакцию или ответ, либо уже непосредственно словами отвечаю (не внутренний диалог).
С книгой тоже в некотором роде общение словами. За исключением случаев, когда я задумываюсь о чём-то другом, бессознательно проглатывая слова из книги.
Как я понимаю, никто не может осознанно воспринимать сырую информацию - ультразвук или красный цвет. До осознанного переживания добирается сильно переработанная информация (т.е. после большого количества слоёв нейронной сети).
Чисто теоретически, никто не мешает возбуждать более глубокие слои сети, чтобы человеку казалось, что он видит красный цвет, при том, что нейроны глаза могут вообще молчать. С точки зрения сознания разницы нет, т.е. человек не сможет вам ответить, что он видит разницу.
Уже сейчас проводят эксперименты, возбуждая зрительную кору. И даже слепой "видит" фосфены, т.е. вспышки света. Пока, конечно, точность таких экспериментов очень низкая
Ну так объясните нам разницу.
Не уверен, что такое квалиа. Но видеть - это точно не сознание. Вон меня только что увидела камера, распознала мой номер и открыла шлагбаум. Т.е. увидела и приняла решение. Но вряд ли это можно назвать сознанием.
Автор книги определяет сознание прежде всего как внутренний диалог и представление о самом себе. Для принятия даже сложных решений (для которых нужен большой мозг) внутренний диалог не является необходимым. По сути идея автора в том, что правое полушарие мозга бессознательно обрабатывало большой объём информации и принимало сложные решения, которые потом сообщало левому полушарию. Которое, в свою очередь, это решение исполняло, используя все доступные когнитивные ресурсы.
Никем не проверяемых ресурсов очень много. Сейчас принято делать микросервисы. А с Claude-code один человек может тянуть целый сервис, а то и несколько. Причём часто заводят отдельные AWS аккаунты на DEV, STG и PRD. Получается какой-нибудь джуниор или просто раздолбай может обладать несколькими облачными аккаунтами, за которые платит компания. Где гарантия, что он точно отслеживает все события и траты на этих аккаунтах? Скажем - лишние 500$ трат - это сбежавший чятик или увеличение количества пользователей сервиса. Ответить бывает сложно - FinOps инженеры не дадут соврать.
Целеполагание и алгоритмы минимизации у амёбы есть. Но внутренний мир то откуда?
Кстати про "какого быть летучей мышью" Мне кажется теоретически это вполне осуществимо. Человеческий мозг скорее всего во всём превосходит мышиный. Его надо лишь опустить до нужного уровня. Это можно сделать, если уметь точечно подавлять/возбуждать разные когнитивные функции. Пока вроде не умеют, но это не невозможно.
При этом видимо придётся подавить и сознание. Т.е. человек будет не осознавать себя мышью. Но сможет потом повспоминать, какого это - быть мышью.