Джефф Ральстон, известный в стартап-сообществе по работе в Y Combinator, вернулся в мир официальных инвестиций, о чём он объявил в четверг. Его новый фонд называется Safe Artificial Intelligence Fund, или SAIF, что является одновременно объяснением его концепции и игрой слов.
Ральстон целенаправленно ищет стартапы, которые «повышают безопасность, надёжность и ответственное использование ИИ», как указано на веб-сайте его фонда. Он намерен выписать чеки на сумму 100 000 долларов в рамках SAFE, как он говорит, с ограничением в 10 миллионов долларов. SAFE — это инструмент для инвестирования в стартапы на ранней стадии, разработанный Y Combinator. Это сокращение от «простое соглашение о будущей доле в капитале».
В то время как большинство венчурных инвесторов в наши дни стремятся инвестировать в стартапы в сфере ИИ, Ралстон уделяет больше внимания идее безопасного ИИ, хотя и признаёт, что эта концепция немного расплывчата.
«Подавляющее большинство проектов в области ИИ, реализуемых сегодня в мире, используют эту технологию для решения проблем, повышения эффективности или создания новых возможностей. Они не обязательно небезопасны по своей сути, но безопасность не является их основной задачей, — говорит Ральстон в интервью TechCrunch. — Я намерен финансировать стартапы, основной целью которых является безопасный ИИ — как я его очень широко определяю».
В этот список входят стартапы, ориентированные на повышение безопасности ИИ, например, те, которые уточняют процесс принятия решений ИИ или оценивают безопасность. В него входят продукты, которые защищают интеллектуальную собственность, обеспечивают соответствие ИИ требованиям законодательства, борются с дезинформацией и выявляют атаки, созданные ИИ. Он также хочет инвестировать в функциональные инструменты ИИ со встроенной функцией безопасности, например, в более совершенные инструменты прогнозирования ИИ и инструменты для ведения деловых переговоров с использованием ИИ, которые не раскрывают корпоративную тайну посторонним.
Это может показаться списком стартапов в сфере ИИ, за которыми следят многие венчурные инвесторы, но есть области, в которые, по словам Ральстона, он не вернётся. Один из примеров — полностью автономное оружие.
«ИИ, безусловно, можно использовать в таких сферах, которые будут небезопасными: для создания биологического оружия, для управления обычным оружием без участия человека и т. д.», — пояснил он.
На самом деле, он хотел бы финансировать «системы безопасности оружия», которые могли бы обнаруживать или предотвращать атаки с использованием оружия с искусственным интеллектом.
Это интересная точка зрения, противоположная мнению многих современных основателей оборонных технологий и венчурных инвесторов. Как ранее сообщал TechCrunch, некоторые люди, создающие оружие с искусственным интеллектом, всё чаще высказывают идею о том, что такое оружие будет лучше работать без участия человека.
Тем не менее, в наши дни сфера ИИ является конкурентной для венчурных инвесторов. Именно здесь, как надеется Ральстон, его связи с YC могут дать ему преимущество. Ральстон покинул YC в 2022 году после трёх лет на посту президента (его сменил Гарри Тан) и более десяти лет в качестве советника.