ИИ в IT: как пользоваться ChatGPT и не слить конфиденциальные данные

[achekalin]

Чатгпт, напиши клёвую статью про то, как опасно...

[nutrifit]

Я думаю для чувствительных данных лучше использовать локальные решения или обезличенные данные. Думаю все проблемы все равно сводятся к базовым нарушениям протоколов безопасности и политиками работы с данными

[WhiteBehemoth]

Только вместе с решением в облако ушли внутренние IP-адреса, имена серверов, домены, почты сотрудников, токены и прочая служебная информация, которая в этом логе находилась.

Писать в логи чувствительную информацию - это первопричина. Нужно решать её в первую очередь. То есть, не вычищать их, а именно не писать туда ничего секретного.

[itoolsy]

Отличная идея. Что может пойти не так? Все. Логи как раз и придуманы, чтобы понять что где и почему пошло не так. Без детализации логи бесполезны. Как вы без адресов, например, поймете откуда и куда и что произошло? А вот выгружать их в ии-шечку с этими данными - это косяк.

[WhiteBehemoth]

Здесь простой аргумент - если ваше решение безопасно "по дизайну" - это огромный плюс к продукту как к инженерному решению. И да, это - ограничение удобства отладки в пользу безопасности. И, кстати, не такое уж и сильное ограничение - как правило, внутренние идентификаторы можно считать безопасными - и по ним всегда можно восстановить картину происходящего.

[Andrey_Solomatin]

У нас все иишечки запрещены, кроме иишечек которые через рабочий аккаунт. Разработчикам не надо забивать себе голову, что слать, что не слать.

[k-zet]

действительно, подскажите, а чем отличается акк иишки личного акка и корпоративного? как по мне данные утекут и там и там

[Andrey_Solomatin]

Договором. Например ваши запросы на личном ИИ будут использоваться для обучения, а вот на корпоративном нет. У бизнеса есть требования по безопасности и все кто с бизнесом хотят работать под них подстраиваются.