С кем судиться, когда робот теряет ваши деньги

Автор оригинала: Thomas Beardsworth and Nishant Kumar
  • Перевод

Первый случай, когда люди обратились в суд по поводу потери инвестиций, к которой привела работа автономных машин, станет проверкой пределов надёжности




С каждым днём роботы становятся всё больше похожими на людей, но судиться с ними до сих пор нельзя.

Поэтому гонконгский магнат выбрал иной вариант за неимением лучшего. Он судится с продавцом, убедившим его доверить часть своего капитала суперкомпьютеру, торговля на бирже которого обошлась ему в более чем $20 млн.

В деле столкнулись Саматур Ли Кин-кан, отец которого – один из крупнейших инвесторов компании Shaftesbury Plc, владеющей большей частью лондонского чайна-тауна, Ковент-Гардена и Карнаби-стрит, против Рафаэля Коста, который большую часть карьеры занимался продажами инвестиционных фондов таким компаниям, как Man Group Plc and GLG Partners Inc. Это первый случай, когда люди обратились в суд по поводу потери инвестиций, к которой привела работа автономных машин, станет проверкой пределов надёжности, и вытаскивающей на свет проблему «чёрного ящика»: если люди не знают, как компьютер принимает решения, кто отвечает, когда что-то пойдёт не так?

«Люди считают, что алгоритмы работают быстрее людей и лучше их принимают решения», — сказал Марк Лемли, профессор юриспруденции из Стэнфордского университета, руководящий местной программой «Закон, наука и технологии». «Часто так и есть, но когда это оказывается не так, или когда алгоритмы сбиваются с пути, инвесторы ищут козла отпущения».


Рафаэль Коста

Сроки, предшествовавшие судебной тяжбе, были взяты из документов, отправленных в суд по коммерческим вопросам в Лондоне, где слушание дела должно начаться в апреле следующего года. А всё началось за обедом в ресторане в Дубае 19 марта 2017-го. Тогда Ли, 45-и лет, повстречался с Костой, 49-летним итальянцем, известным в своей среде, как «капитан Волшебник». Во время еды Коста описал роботизированный хедж-фонд, услуги которого по полностью автоматическому управлению деньгами при помощи ИИ скоро начнёт предлагать его лондонская компания Tyndaris Investments.

Суперкомпьютер K1, разработанный австрийской компанией 42.cx, будет прочёсывать в онлайне такие источники информации, как новостные статьи и соцсети, чтобы оценивать настроение инвесторов и делать предсказания по поводу будущей стоимости фьючерсов. Затем он будет отправлять брокеру инструкции по управлению акциями, со временем подстраивая стратегию на основе полученной информации.

Идея полностью автоматического управляющего деньгами мгновенно вдохновила Ли. Он встретился с Костой за ужином через три дня, а до этого в емейле писал ему, что ИИ-фонд «именно то, что мне нужно».

В следующие месяцы Коста делился с Ли результатами симуляций, в которых K1 достигал двузначных прибылей на вложенные деньги, хотя теперь они спорят по поводу тщательности исторического тестирования. Ли в итоге доверил K1 управление $2,5 млрд — из них $250 млн были его собственными, а остаток – рычагом от Citigroup Inc. Эту сумму планировалось удвоить.

Однако увлечение K1 у Ли сразу же прошло, когда компьютер начал торги в конце 2017. К февралю 2018 он устойчиво терял деньги, включая случай, когда за один день было потеряно $20 млн – 14 февраля – из-за стоп-лосса [«лося» на жаргоне трейдеров / прим. перев.], который, как утверждают адвокаты Ли, не был бы приведён в исполнение, если бы K1 был настолько навороченным, как утверждал Коста.

Сейчас Ли подал иск к Tyndaris на сумму в $23 млн из-за преувеличения возможностей суперкомпьютера. Юристы Tyndaris, подавшей в суд на Ли за $3 неуплаченных штрафов, отрицают тот факт, что Коста преувеличивал возможности K1. Они утверждают, что он никогда не гарантировал, что стратегия ИИ будет давать прибыль.

Сара Макатомайни, юрист инвестиционной компании Ли, судящейся с Tyndaris, отказалась давать комментарии. Роб Уайт, представитель Tyndaris, отказался связать редакцию с Костой для интервью.

Юридические баталии – предвестник того, что может случиться, когда ИИ будет включён во все сферы жизни, от робомобилей до виртуальных помощников. Когда технология даёт осечку, вопрос о том, кого в этом обвинять, оказывается спорным. В марте прокуроры США оправдали Uber Technologies Inc., обвиняемую в смерти 49-летнего пешехода, погибшего под колёсами одного из её робомобилей.


Прибыль в 2019-м году на каждые $100 инвестиций, вложенных в 2014-м; прибыль S&P 500 указана с учётом повторно инвестированных дивидендов.

В мире хедж-фондов попытки использовать ИИ стали необходимостью после многих лет неудовлетворительной работы людей-управляющих. Количественные инвесторы – компьютеры, специально разработанные для поиска и реализации торгов – уже популярны. Реже встречаются чисто ИИ фонды, автоматически обучающиеся и улучшающие эффективность на основе опыта, не имеющие специально запрограммированных данных. Как только ИИ вырабатывает собственное понимание ситуации, даже его создатели перестают понимать, почему он принимает те или иные решения.

«Вы можете оказаться в такой ситуации, что не сможете объяснить, почему вы удерживаете данную позицию», — сказал Энтони Тодд, сооснователь лондонской компании Aspect Capital, экспериментирующей с ИИ-стратегиями перед тем, как позволять им работать с клиентскими инвестициями. «Одно из наших опасений, связанных с применением техник машинного обучения, состоит в потере чётких гипотез о поведении рынка».

Адвокаты Ли утверждают, что Коста завоевал доверие, раздувая квалификацию техников, писавших алгоритм K1, и говорил, к примеру, что они занимались разработкой Deep Blue, шахматного компьютера IBM, ознаменовавшего рассвет эры ИИ в тот момент, когда он обыграл чемпиона мира в 1997-м.


Гарри Каспаров играет против IBM Deep Blue в 1997

В разговоре с «Блумберг» основатель 42.cx Дэниэл Мэттс сказал, что ни один из консультировавших его специалистов по информатике не имел отношения к Deep Blue, однако один из них, Владимир Львович Арлазаров, в СССР в 1960-х разработал шахматную программу «Каисса» [она победила в 1-м чемпионате мира среди компьютеров в Стокгольме в 1974 г. / прим. перев.]. Он признал, что такой опыт, возможно, не особенно сильно связан с инвестициями. Алгоритмы довольно хорошо научились выигрывать у людей в игры, поскольку в них существуют чёткие правила, поддающиеся симуляции – чего не скажешь о фондовых рынках. Алазаров сказал «Блумберг», что он давал Мэттсу консультации общего характера, но не работал над K1.

Вдохновившись исследованием Европейского центробанка от 2015 года, где изучали настроение инвесторов на основе записей в твиттере, 42.cx создала ПО, способное выдавать сигналы о настроении, сказал Мэттс, согласившийся недавно выплатить $17 млн комиссии по ценным бумагам США, чтобы урегулировать судебный иск об обмане инвесторов своей компании мобильных платежей Jumio Inc., совершённом в начале 2010-х. А как реагировать на эти сигналы, решали в Tyndaris, сказал он.

«Это была прекрасная программа, — сказал нам Мэттс по телефону. – Выдаваемые нами сигналы имели чёткие научные обоснования. Я думаю, что мы довольно неплохо сработали. Я знаю, что способен улавливать настроения. Я не трейдер».

В судебных документах содержится много споров по поводу того, обманывали ли Ли касаемо возможностей K1. К примеру, машина создавала единственную заявку по утрам, если получала чёткий сигнал о настроении инвесторов, хотя Ли заявляет, что считал, будто она будет заниматься торговлей в течении дня. Адвокаты Коста говорят, будто он сообщил Ли, что покупка или продажа фьючерсов на основе нескольких торговых сигналов входили в планы компании, но не планировались с самого начала работы.

Бывали периоды в несколько дней, когда K1 вообще не торговал, поскольку не находил достаточно сильных трендов. В одном из сообщений к Косте Ли жаловался, что K1 отдыхает, при этом спокойно пропуская неблагоприятные события, в надежде, что не дойдёт до активации приказа стоп-лосс (предустановленного уровня, по достижению которого брокер будет продавать акции, чтобы ограничить потери при внезапном падении цен).

Это и произошло в день св. Валентина в 2018-м. Утром K1 разместил заявку у брокера Goldman Sachs Group Inc. На $1,5 млн фьючерсов S&P 500, предсказав рост индекса. Но тот пошёл в обратном направлении, когда выяснилось, что инфляция в США выросла быстрее, чем ожидалось, что привело к активации стоп-лосс K1 на 1,4% и потере фондом $20,5 млн. Однако через несколько часов S&P восстановил позиции – и это, по утверждению адвокатов Ли, показывает, что граница стоп-лосса для K1 была установлено «грубо и неправильно».

Ли заявляет, что его уверили, что K1 будет использовать собственные «возможности глубокого обучения» ежедневно для определения правильной границы стоп-лосса на основе таких факторов рынка, как волатильность. Коста отрицает, что говорил такое, и заявляет, что сказал Ли, что этот уровень всегда будут назначать люди.

В интервью Мэттс сказал, что в K1 не закладывали возможность самостоятельной установки стоп-лосса – он умеет лишь выдавать два типа сигналов о настроении: обобщённый, который Tyndaris может использовать для входа в позицию, и динамический, который можно использовать для выхода или изменения позиции. Хотя Tyndaris рекламировал фонд, управляемый K1, другим инвесторам, представитель отказался отвечать на вопрос о том, управлял ли он какими-то реальными средствами. А все упоминания о суперкомпьютере исчезли с его сайта в прошлом месяце.

Инвесторы, и, в частности, Маркус Сторр, говорят, что беспокоятся о входе ИИ-фондов на биржу, особенно учитывая, что фонды, использовавшие ИИ в качестве основной стратегии, заработали за три года менее половины прибыли от S&P 500, согласно данным по индексам от Eurekahedge AI Hedge Fund.

«Мы не можем судить код, — сказал Сторр, принимающий решения об инвестициях в Bad Homburg, немецком трастовом фонде. – Так что нам остаётся лишь судить об исследовательских возможностях и структуре».

Но что происходит, когда компании используют чатботов для продажи продуктов клиентам? Возможно, тут даже не получится засудить продавца, добавила Каришма Пароха, лондонский юрист из компании Kennedys, специализирующийся на ответственности за продукты. «Недопонимание относится к тому, что вам говорит человек, — сказала она. – Что происходит, когда вам что-то продаёт не человек?»
Поддержать автора
Поделиться публикацией

Комментарии 12

    0
    … есть же для роботов-газонокосилок ограничения «работает при уклонах до стольки-то процентов\градусов, не должно быть камней и мелких предметов» (а иначе поломается) и т.д, может такие же ограничения наконец-то введут и для биржевых роботов?
    (или например для автопилотов машин — что «предназначено для дорог, на которых нет пешеходов и велосипедистов»)
      0
      было там такое ограничение
      Утром K1 разместил заявку у брокера Goldman Sachs Group Inc. На $1,5 млн фьючерсов S&P 500, предсказав рост индекса. Но тот пошёл в обратном направлении, когда выяснилось, что инфляция в США выросла быстрее, чем ожидалось, что привело к активации стоп-лосс K1 на 1,4% и потере фондом $20,5 млн. Однако через несколько часов S&P восстановил позиции – и это, по утверждению адвокатов Ли, показывает, что граница стоп-лосса для K1 была установлено «грубо и неправильно».

      а было бы не 1.4% а 2.8% и S&P не восстановил бы позиции, потеря была бы $41 млн. и была бы та же истерика и те же претензии.
      Вообще непонятно в чем вопрос, робот это инструмент, и либо производитель его криво сделал или инструкцию к нему кривую дал, или пользователь использовавший инструмент неправильно или не по его возможностям.
      0
      То есть они исхитрились сделать традиционного хомячка, бегающего за новостями, то бишь источник корма для серьезных игроков?:)
        0
        Ли заявляет, что его уверили, что K1 будет использовать собственные «возможности глубокого обучения» ежедневно для определения правильной границы стоп-лосса на основе таких факторов рынка, как волатильность.

        Я так понимаю человек-трейдер управляющий чужими деньгами то же самое делает и точно так же ошибается и это уже лет двести как практикуется. Уже все вопросы должны быть решены в плане ответственности за ошибочные решения и критериев определения ситуации, т.ч. какая разница человек там накосячил или алгоритм человеком написанный.
          0
          Ли заявляет, что его уверили, что K1 будет использовать собственные «возможности глубокого обучения» ежедневно для определения правильной границы стоп-лосса на основе таких факторов рынка, как волатильность. Коста отрицает, что говорил такое, и заявляет, что сказал Ли, что этот уровень всегда будут назначать люди.


          Два миллионера договорились о сделке, не зафиксировав её основных условий письменно.

          Какая прелесть.
            0
            Он судится с продавцом, убедившим его доверить часть своего капитала суперкомпьютеру, торговля на бирже которого обошлась ему в более чем $20 млн.
            Объясните мне глупому. :) Вот есть Вася, который заявляет что умеет зарабатывать деньги каким либо способом. И приносит доход более 20% в год. Но Вася не идет в банк и не берет кредит под 10% годовых. Мало того, Вася даже не берет микрокредиты (при торговле в системе банка) для обеспечения плеча своих сделок. При чем такие микрокредиты часто бывают бесплатными. Вася пытается вместо этого найти «инвесторов» обещая им золотые горы. Вася заявляет, то он такой добрый и такой умный, что дает зарабатывать на своей супер системе и в своем супер фонде другим.
            Какой вменяемый человек поверит в такого Васю?
              0
              Игра на бирже — это всегда риск. Иногда дисперсия выше, иногда ниже — но риск проиграть есть всегда. Допустим, этот чудо-алгоритм зарабатывает 20% в год, но при этом вариация составляет 30%. Т.е. может проиграть 10%, а может выиграть 50%. Но в среднем +20%.
              Программист Вася не хочет рисковать своими деньгами — он хочет стабильный заработок. И поэтому он может продавать свой алгоритм за, например, эквивалент 8%. Тогда и ему удобно (стабильная прибыль), и покупателю — он (по мат. ожиданию) в плюсе на 12%. Для меня, как для программиста, 8% надёжной прибыли (с почти нулевой дисперсией) — лучше, чем 20% прибыли с гигантской дисперсией. Думаю, программист Вася мыслит так же.

              Оба игрока должны понимать, что никаких гарантий прибыли от игры на бирже нет и не будет. Просто один проиграл и теперь строит из себя дурачка, мол «мне пообещали беспроигрышную стратегию и вообще обманули». Интересно, если бы он выиграл 20млн — он пошёл бы делиться с создателями К1? Вряд ли.
                +1
                Программист Вася не хочет рисковать своими деньгами
                Думаю, это ключевая фраза. Вася не уверен в себе. И не хочет рисковать своими деньгами. Но готов найти буратин готовых ради васиной стратегии рисковать своими деньгами. Скорее всего буратинам сообщили, что риска нет. То есть обманули. Буратины в таких условиях вообще вменяемы? Особенно когда Вася совсем не готов рисковать своими деньгами!
                  0
                  Нет, дело не в неуверенности в себе, а в понимании принципов действия рынка.
                  Приведу другую аналогию. Садясь за покерный стол, никто не может быть на 100% уверен, что выиграет. По мат. ожиданию каждый за столом получит одинаковую сумму (при одинаковых силах игроков). Но реально выиграет кто-то один. В данном случае Вася не хочет рисковать и выбирает роль крупье: стабильный заработок, но меньше, чем у победителя. А те, кто покупают его ПО — садятся за стол и играют против других. Могут выиграть, могут проиграть — зависит от них в том числе.
                  Если Вася при этом говорит, что выиграют все — то он шарлатан. Но эти ребята, которые продавали К1, такого не заявляли. Они показали, что их алгоритм _может_ получать ощутимую прибыль в долгосрочной перспективе (большинство алгоритмов этим не могут похвастаться).
                    0

                    В качестве крупье в данном случае выступает брокер и биржа. А эти ребята именно что заявили "мы придумали ПО которое просчитывает игроков, дайте денег мы всех обыграем".

                    0

                    Тут ещё дело в том, что у Васи денег мало и кредит ему не дадут, а если дадут, то под проценты превышающие планируемую доходность.
                    Вася показывает что на своих $100K он имеет Профит. И симуляция на исторических данных имеет Профит (ещё бы, они ж на них и тренировали своё поделие).
                    Вот и просит "а давай мне пару ярдов, прикинь как подымемся"…

                0

                Очередное доказательство того, что все эти биржи, акции, фьючерсы, форексы — обычный гэмблинг, азартные игры. Просто кто-то проплатил и теперь это считается нормальным и даже элитным. А по сути рулетка.

                Только полноправные пользователи могут оставлять комментарии. Войдите, пожалуйста.

                Самое читаемое