ChatGPT에 독점 코드를 붙여넣은 삼성 소프트웨어 엔지니어 체포

삼성 한국 기반 반도체 사업부의 여러 직원이 기밀 코드 라인을 ChatGPT에 연결하여 전 세계 다른 사람들에게 향후 챗봇 응답에 포함될 수 있는 기업 비밀을 효과적으로 유출했습니다.

이코노미스트 코리아(The Economist Korea)에 따르면 한 직원은 반도체 데이터베이스의 버그 있는 소스 코드를 챗봇에 복사하고 수정 사항을 확인하도록 요청했다고 합니다. 다른 직원도 다른 장비에 대해 동일한 작업을 수행하여 ChatGPT에 "코드 최적화"를 요청했습니다. 세 번째 직원이 AI 모델에 회의록 요약을 요청하자 삼성 경영진이 개입했습니다. 회사는 각 직원의 ChatGPT 프롬프트를 1,024바이트로 제한했습니다.

불과 3주 전에 삼성은 이 문제에 대한 우려로 인해 직원의 ChatGPT 사용 금지를 해제했습니다. 최근 사건 이후 회사는 금지 조치를 재개하고 직원에 대한 징계 조치를 고려하고 있다고 이코노미스트 코리아가 전했습니다.

내부 메모에는 “긴급 정보보호 조치를 취한 후에도 유사한 사고가 발생할 경우 회사 네트워크에서 ChatGPT 접속이 차단될 수 있다”고 적혀 있다. “ChatGPT에 콘텐츠가 입력되는 순간 데이터가 외부로 전송되어 저장된다. 서버에 저장되어 있어 회사에서 복구가 불가능합니다.”

OpenAI 사용자 가이드(새 창에서 열림)는 사용자에게 이러한 행동에 대해 경고합니다. "우리는 기록에서 특정 프롬프트를 삭제할 수 없습니다. 대화에서 민감한 정보를 공유하지 마십시오." 시스템은 제출된 모든 질문과 텍스트를 교육 데이터로 사용한다고 말합니다.

버그가 있는 코드를 찾고 수정하기 위해 ChatGPT를 사용하는 것이 소프트웨어 엔지니어링 분야에 널리 보급되었습니다. 사용자가 코딩 질문을 하면 솔루션 식별을 시도하고 원클릭 복사 및 붙여넣기 버튼이 있는 코드 조각을 제공합니다. 챗봇의 코딩 지식은 Google에 초급 엔지니어로 채용되기에 충분합니다.

이는 엔지니어가 문제 해결을 위해 널리 사용되는 리소스인 Stack Overflow와 같은 사이트를 서핑하는 데 소비하는 시간(때로는 몇 시간)을 대체할 수 있습니다. 소프트웨어 엔지니어의 ChatGPT 사용률이 높다는 증거로, Stack Overflow는 믿을 수 있어 보이는 부정확한 답변에 대한 우려로 인해 2022년 11월 30일 출시 후 불과 며칠 만에 ChatGPT에서 생성된 응답을 금지했습니다(새 창에서 열림).

Stack Overflow는 4일 전에 업데이트된 게시물에서 "가장 큰 문제는 ChatGPT가 생성하는 답변이 부정확할 확률이 높지만 일반적으로 좋은 것처럼 보이고 답변을 생성하기가 매우 쉽다는 것입니다."라고 말합니다. "이러한 답변의 양(수천 개)...우리의 자원 봉사 기반 품질 큐레이션 인프라를 효과적으로 압도했습니다."

삼성은 미래의 사고를 방지하기 위해 자체 AI 구축을 고려하고 있는 것으로 알려졌지만, 엔지니어들은 개인 기기에서 ChatGPT를 사용하여 모든 조치를 우회할 가능성이 높습니다. Microsoft Bing 및 Google Bard도 코드 줄에서 버그를 감지할 수 있으므로 ChatGPT를 금지하는 것은 완벽한 솔루션이 아닙니다.

지금 새로운 소식을 받아보세요매일 아침 받은 편지함으로 주요 뉴스를 받아볼 수 있습니다.

이 뉴스레터에는 광고, 거래 또는 제휴사 링크가 포함될 수 있습니다. 뉴스레터를 구독한다는 것은 당사의 이용약관과 개인정보 보호정책에 동의한다는 것을 의미합니다. 귀하는 언제든지 뉴스레터 구독을 취소할 수 있습니다.

귀하의 구독이 확인되었습니다. 받은편지함을 주의 깊게 살펴보세요!