Инженеры-программисты Samsung арестованы за вставку проприетарного кода в ChatGPT

Несколько сотрудников корейского подразделения полупроводников Samsung подключили строки конфиденциального кода к ChatGPT, тем самым эффективно разглашая корпоративные секреты, которые могут быть включены в будущие ответы чат-бота другим людям по всему миру.

По данным The Economist Korea, один сотрудник скопировал ошибочный исходный код из базы данных полупроводников в чат-бот и попросил его найти исправление. Другой сотрудник сделал то же самое для другого оборудования, запросив «оптимизацию кода» у ChatGPT. После того, как третий сотрудник попросил модель искусственного интеллекта обобщить записи встречи, в дело вмешались руководители Samsung. Компания ограничила приглашение каждого сотрудника ChatGPT до 1024 байтов.

Всего тремя неделями ранее Samsung сняла запрет на использование ChatGPT для сотрудников из-за опасений по поводу этой проблемы. После недавних инцидентов компания рассматривает возможность восстановления запрета, а также принятия дисциплинарных мер для сотрудников, сообщает The Economist Korea.

«Если подобная авария произойдет даже после принятия экстренных мер по защите информации, доступ к ChatGPT может быть заблокирован в сети компании», — говорится во внутренней памятке. «Как только контент попадает в ChatGPT, данные передаются и сохраняются на внешнем сервер, что делает невозможным его получение для компании».

Руководство пользователя OpenAI (открывается в новом окне) предупреждает пользователей о таком поведении: «Мы не можем удалять определенные запросы из вашей истории. Пожалуйста, не делитесь конфиденциальной информацией в своих разговорах». В нем говорится, что система использует все отправленные ей вопросы и текст в качестве обучающих данных.

Использование ChatGPT для поиска и исправления ошибочного кода стало широко распространенным в разработке программного обеспечения. Если пользователи задают вопрос по кодированию, он пытается найти решение и предоставляет фрагмент кода с помощью кнопки копирования и вставки одним щелчком мыши. Знаний чат-бота в области программирования, очевидно, достаточно, чтобы его наняли в Google на должность инженера начального уровня.

Это может заменить время (иногда часы), которое инженеры тратят на просмотр таких сайтов, как Stack Overflow, популярный ресурс для устранения неполадок. Как свидетельство высокого уровня использования ChatGPT разработчиками программного обеспечения, Stack Overflow запретил(Открывается в новом окне) ответы, сгенерированные ChatGPT, всего через несколько дней после его выпуска 30 ноября 2022 года из-за опасений по поводу неточных ответов, которые выглядят правдоподобно.

«Основная проблема заключается в том, что, хотя ответы, которые выдает ChatGPT, имеют высокий уровень неправильных ответов, они обычно выглядят так, как будто они могут быть хорошими, и ответы очень легко получить», — говорится в сообщении Stack Overflow, обновленном четыре дня назад. «Объем этих ответов (тысячи)... фактически заполонил нашу инфраструктуру качественного курирования, основанную на волонтерах».

Сообщается, что Samsung рассматривает возможность создания собственного искусственного интеллекта для предотвращения будущих неудач, хотя инженеры, вероятно, могли бы обойти любые меры, используя ChatGPT на личных устройствах. Microsoft Bing и Google Bard также могут обнаруживать ошибки в строках кода, поэтому запрет ChatGPT не является надежным решением.

Подпишитесь на раздел «Что нового сейчас»чтобы наши главные новости доставлялись на ваш почтовый ящик каждое утро.

Этот информационный бюллетень может содержать рекламу, предложения или партнерские ссылки. Подписка на новостную рассылку означает ваше согласие с нашими Условиями использования и Политикой конфиденциальности. Вы можете отказаться от подписки на информационные бюллетени в любое время.

Ваша подписка подтверждена. Следите за своим почтовым ящиком!