Amazon попросила своих сотрудников не делиться конфиденциальной информацией с ChatGPT из-за появления в ответах чат-бота данных, очень похожих на внутренние материалы компании.
Как стало известно Insider, в прошлом месяце каналы Amazon в Slack были заполнены вопросами сотрудников о ChatGPT. Люди интересовались, можно ли обращаться к ChatGPT с рабочими вопросами, и есть ли у Amazon официальное руководство по использованию ChatGPT на рабочих устройствах. Один из сотрудников призывал облачное подразделение Amazon Web Services опубликовать свою позицию в отношении «приемлемого использования генеративных инструментов искусственного интеллекта».
Вскоре пришлось вмешаться корпоративному юристу Amazon. Она предупредила сотрудников, чтобы они не предоставляли ChatGPT любую конфиденциальную информацию Amazon, включая код. А так как уже были прецеденты, когда ответы ChatGPT содержали информацию, похожую на внутренние материалы Amazon, всем было рекомендовано следовать существующей политике компании в отношении конфликта интересов и конфиденциальности.
Эмили Бендер, преподаватель компьютерной лингвистики в Вашингтонском университете, считает, что OpenAI далеко не прозрачна в отношении того, как используется получаемая чат-ботом информация; и вскоре корпорации начнут задавать вопросы: возможно ли извлекать закрытую корпоративную информацию из ChatGPT при помощи правильно сформулированных подсказок? Всё это может стать особенно важным для Amazon, поскольку именно один из её главных конкурентов Microsoft инвестировал в OpenAI $10 млрд.
Одновременно в Amazon начали вводить внутренние ограничения для ChatGPT. Например, когда сотрудники используют рабочее устройство для перехода на сайт ChatGPT, появляется предупреждающее сообщение, что они собираются посетить сторонний сервис, который «может быть не одобрен для использования Amazon Security».
Несмотря на это, некоторые сотрудники Amazon уже используют ChatGPT в качестве помощника при написании кода. А один из них поделился с ChatGPT вопросами, которые задают на собеседовании на позицию программиста, и получил от него правильные ответы. В AWS служба поддержки создала небольшую внутреннюю рабочую группу, чтобы «понять, как влияет продвинутый AI на наш бизнес». Выяснилось, что ChatGPT «очень хорошо справляется» с ответами на вопросы, которые задают поддержке AWS, даже такими сложными, как устранение проблем в базе данных Aurora. Он также «отлично» подходит для создания учебных материалов для экзаменов на сертифицированного облачного архитектора AWS и «очень хорошо» подходит для определения целей компании клиента.
Insider отмечает, что для рядовых сотрудников Amazon утечка конфиденциальных данных кажется наименьшей из их проблем. Они видят, что использование чат-бота на работе привело к «10-кратному повышению производительности», и выражают желание присоединиться к внутренним командам, разрабатывающим аналогичные услуги.
Корпоративный юрист, предупредившая сотрудников о нежелательности использования ChatGPT, пояснила, что Amazon уже разрабатывает «похожую технологию», приведя в пример голосового помощника Alexa и службу рекомендаций CodeWhisperer.
