Обновить
64K+
98
Дмитрий Федорков@Fedorkov

Программист

91,7
Рейтинг
13
Подписчики
Отправить сообщение

Тому, как не надо поступать.

Но Шерлок Холмс даже этому не научит.

But when you look at what Sherlock Holmes does - you can't go out and do it at home.  Sherlock Holmes is not really operating by any sort of reproducible method.  He is operating by magically finding the right clues and carrying out magically correct complicated chains of deduction.  Maybe it's just me, but it seems to me that reading Sherlock Holmes does not inspire you to go and do likewise.  Holmes is a mutant superhero.  And even if you did try to imitate him, it would never work in real life.

https://lesswrong.com/posts/q79vYjHAE9KHcAjSs

Ложью является утверждение, что у OpenAI есть маржа.

станет понятно, что это уже с нами навсегда и все до чего дотянутся заменят на ИИ, потому что это дёшево, эффективно и прибыльно

revenue кост и прибыль будут расти будет линейно

Вы утверждаете, что OpenAI будет дешёвым и эффективным, потому что количество платных пользователей вырастет, а количество платных пользователей вырастет, потому что OpenAI будет дешёвым и эффективным. Это замкнутый круг.

А ещё revenue cost не включает расходы на строительство датацентров. Там счёт на сотни миллиардов долларов, и значительную долю составляют GPU/TPU со сроком службы 4-6 лет.

А ещё нужно построить очень много электростанций. Это не Китай, где строительство поставлено на поток, авральная стройка в США после 20 лет стагнации обойдётся очень дорого.

OpenAI физически не успевает вырасти настолько, чтобы обслужить все свои долги и долги всех, кто у них в доле. Разве что ИИ захватит мир в ближайший год. Недавние взломы (распиаренные самими OpenAI и Anthropic) якобы вышедшими из-под контроля нейронками - это попытка убедить инвесторов, что ИИ уже захватывает мир.

С дивана под пивом почему-то очень сложно поверить, что большие дядьки с экономическими образованиями зарабатывающие много-много денег, внезапно умеют считать свои деньги, причем не хуже сидящих на диване, а зачастую и лучше

Мажоритарии и руководители Enron и Lehman Brothers тоже имели экономическое образование.

Офигеть, вы примечания из своей головы писали? Я смотрел этот ролик, но про Багамы, Симпсонов и некоторые другие вещи понял только из статьи.

Если ты должен $100 млрд, то твою организацию санируют за счёт налогоплательщиков или печатного станка.

Я тоже заметил, что таким часто физически сложно выдавить из себя ответ "я не знаю". И даже когда можно промолчать, они всё равно считают своей обязанностью что-то сказать, прям как нейронка.

Профсоюзы? В финансовом секторе?

Microsoft впервые преодолела отметку $100 млрд годовой выручки Azure

Ага, из которых треть - от убыточной OpenAI. И из этой трети часть - собственные прокрученные вхолостую (а то и вообще нарисованные) деньги. Перевод в сторону OpenAI списывается как CapEx, а обратно - уже как выручка.

I believe the revenue numbers were optimistic for some companies, so I've tweaked them.

Сегодня финансы - это блин нумерология какая-то. Одни рисуют цифры, а другие пытаются на них гадать.

Впрочем, на конкретные высосанные из пальца цифры официальных публикаций остаётся лишь отвечать другими конкретными высосанными из пальца цифрами.

Они по сути вообще могут нарисовать любую цифру. https://wheresyoured.at/anthropics-profitability-swindle

Достаточно посмотреть на p&l openai за 25 год, где даже с учётом очень жирных бесплатных планов и подписок и полностью убыточной соры, у них операционная прибыль на ВЕСЬ revenue cost (сюда входит всё используемое в данный момент железо и электроэнергия в том числе) была почти в ДВА раза больше - грубо говоря маржа 50 процентов

Вы посчитали $7.5 млрд cost of revenue, но проигнорировали $47.4 млрд остальных затрат и потерь.

Очень некрасиво так врать (на добросовестное заблуждение это прям совсем не похоже).

Тест Тьюринга задумывался как тест на интеллект

Нет, он задумывался как вместо теста на интеллект.

I propose to consider the question, “Can machines think?” This should begin with definitions of the meaning of the terms “machine” and “think.” The definitions might be framed so as to reflect so far as possible the normal use of the words, but this attitude is dangerous, If the meaning of the words “machine” and “think” are to be found by examining how they are commonly used it is difficult to escape the conclusion that the meaning and the answer to the question, “Can machines think?” is to be sought in a statistical survey such as a Gallup poll. But this is absurd. Instead of attempting such a definition I shall replace the question by another, which is closely related to it and is expressed in relatively unambiguous words.

https://courses.cs.umbc.edu/471/papers/turing.pdf

Мне пришлось отказаться от линукса Bazzite потому что он не мог управлять вентиляторами и всё перегревалось. Поставить самому модуль там нельзя. Теперь и на Арче этот модуль отвалился.

А я себе написал скрипт для управления вентиляторами (только для корпуса, но можно сделать и для CPU/GPU).

/usr/local/sbin/gpu_case_fan.py
#!/usr/bin/env python3
# Synchronizes top/bottom case fans with CPU/GPU fans
import datetime
import pynvml
import os
import signal
import sys
import time

cpu_temp_path = '/sys/class/hwmon/hwmon3/temp3_input'
case_bottom_path = '/sys/class/hwmon/hwmon2/pwm1'
case_top_path = '/sys/class/hwmon/hwmon2/pwm5'
case_bottom_actual_path = '/sys/class/hwmon/hwmon2/fan1_input'
case_top_actual_path = '/sys/class/hwmon/hwmon2/fan5_input'

if __name__ == '__main__':
    with open(case_bottom_path + '_enable', 'r') as f:
        if f.read().strip() != '5':
            print(f"{case_bottom_path} is already used by someone else.")
            sys.exit(1)

    with open(case_top_path + '_enable', 'r') as f:
        if f.read().strip() != '5':
            print(f"{case_top_path} is already used by someone else.")
            sys.exit(1)

    if os.geteuid() != 0:
        print("This program must be run as root.")
        sys.exit(1)

    stop = False

    def terminate(signum, frame=None):
        global stop
        stop = True
        # Revert to auto fan control
        with open(case_bottom_path + '_enable', 'w') as _f:
            _f.write('5')
        with open(case_top_path + '_enable', 'w') as _f:
            _f.write('5')
        pynvml.nvmlShutdown()

    pynvml.nvmlInit()
    try:
        signal.signal(signal.SIGTERM, terminate)

        gpu = pynvml.nvmlDeviceGetHandleByIndex(0)

        # Manual fan control
        with open(case_bottom_path + '_enable', 'w') as f:
            f.write('1')
        with open(case_top_path + '_enable', 'w') as f:
            f.write('1')

        lastMinute = -1

        while not stop:
            # CPU temperature in °C
            with open(cpu_temp_path, 'r') as f:
                cpu_temp = float(f.read()) / 1000

            # GPU temperature in °C
            gpu_temp = float(pynvml.nvmlDeviceGetTemperature(gpu, pynvml.NVML_TEMPERATURE_GPU))

            # Bottom case fan speed
            case_bottom_speed = (gpu_temp - 45) / 30  # GPU [45, 75]°C -> [0, 1]
            case_bottom_speed = max(0, min(case_bottom_speed, 1))  # clamp to [0, 1]

            with open(case_bottom_path, 'w') as f:
                f.write(str(int(case_bottom_speed * 255)))

            # Top case fan speed
            case_top_speed = (cpu_temp - 60) / 15  # CPU [60, 75]°C -> [0, 1]
            case_top_speed = max(0, min(case_top_speed, 1))  # clamp to [0, 1]
            case_top_speed = max(case_top_speed, (case_top_speed + case_bottom_speed) / 2)  # support the bottom if needed

            with open(case_top_path, 'w') as f:
                f.write(str(int(case_top_speed * 255)))

            # Log once a minute
            minute = datetime.datetime.now().minute
            if minute != lastMinute:
                with open(case_bottom_actual_path, 'r') as f:
                    bottom_actual = int(f.read())
                with open(case_top_actual_path, 'r') as f:
                    top_actual = int(f.read())

                print(f"CPU {int(cpu_temp)}°C | "
                      f"GPU {int(gpu_temp)}°C | "
                      f"top {int(case_top_speed * 100)}% ({top_actual} RPM) | "
                      f"bottom {int(case_bottom_speed * 100)}% ({bottom_actual} RPM)")
                lastMinute = minute

            time.sleep(1)

    except KeyboardInterrupt:
        print()

    finally:
        terminate(signal.SIGTERM)
/etc/systemd/system/gpu-case-fan.service
# Synchronizes top/bottom case fans with CPU/GPU fans

[Unit]
Description=GPU/case fan
Wants=nvidia-persistenced.service
After=nvidia-persistenced.service

[Service]
Type=simple
ExecStart=/usr/bin/env python3 /usr/local/sbin/gpu_case_fan.py
Restart=always
RestartSec=60
RestartSteps=4
RestartMaxDelaySec=3600
StandardOutput=journal
StandardError=journal
Environment="PYTHONUNBUFFERED=1"

[Install]
WantedBy=multi-user.target

@AnnieBronson, блин, ну не ленитесь давать ссылки на первоисточники. Апрельская статья, июньское исследование.

В статье никакой конкретики про методологию, только конечные цифры и выводы. Зато исследование интересное. На графиках виден найм-перенайм в ковидные годы, и после этого - падение. В тексте - ни слова про то, как первое повлияло на второе, зато обсуждаются апокалиптичные прогнозы про сингулярность и то, что сами фирмы оправдывают свои сокращения внедрением ИИ.

это жрёт кучу энергии

Энергопотребление мозга (~20 Вт) почти не зависит от умственного напряжения. Голова устаёт, когда нейромедиаторы расходуются быстрее, чем восстанавливаются; соответственно, умственная лень - это бессознательное нежелание расходовать нейромедиаторы без крайней необходимости (вдруг завтра война, а у меня голова уставшая).

причём сдвиги на 32 и на 64 позиции процессор делает одновременно (параллельно) на аппаратном уровне

Надо пояснить, что тут речь не о параллелизме в привычном программисту смысле. Речь об электрической цепи с большим ветвлением и с маленькой длиной - для того, чтобы напряжение быстрее распространялось по ней, и чтобы она могла работать на бóльших частотах.

Намёк на float - в котором всё и считают. Во многом потому что перемножение флоатов быстрее целых (aka с фиксированной точкой).

Перемножение реализуется аппаратно, то есть это всё одна инструкция (в современных процессорах - от 0.5 до 3 тактов).

осторожно инвестирующие в ИИ-пузырь Microsoft

Я бы не назвал сотни миллиардов долларов осторожностью. Если кто и осторожничает, так это Apple, которые вложили в ИИ на порядок меньше. Рискну предположить, что в ближайшие 10 лет Apple может купить с потрохами Oracle или Meta.

@Bright_Translate, как всегда отличный перевод, причём на сложную неайтишную тему.

Стоит ещё пояснить про "новый инвестиционный класс активов". ИИ-пузырь уже выпылесосил почти всю доступную ликвидность, но ещё остались консервативные нью-йоркские управляющие фондами, которых не очень впечатляют обещания AGI и сингулярности, и которые больше привыкли давать в долг под какой-нибудь залог. Хуангу особо нечего предложить, поэтому он начал продвигать идею, что чипы - это ликвидный актив, который тоже сгодится как залог.

Ну и надо понимать, что "партнёрство" на $500 млрд - это всего лишь меморандум. Год назад Nvidia подписала меморандум об инвестировании $100 млрд в OpenAI, и на этом всё закончилось.

1
23 ...

Информация

В рейтинге
73-й
Откуда
Санкт-Петербург, Санкт-Петербург и область, Россия
Работает в
Зарегистрирован
Активность