AI 이슈: ChatGPT 개인정보 보호 강화 예고
개인정보 보호에 대한 우려가 커지면서, OpenAI는 임시 채팅부터 ChatGPT의 암호화를 고려하고 있다고 합니다.
핵심 내용
- OpenAI는 임시 채팅부터 시작해서 ChatGPT의 암호화를 고려하고 있어요.
- 임시 채팅은 기록이나 학습 모델에 나타나지 않지만, 여전히 보존을 요구하는 연방 법원 명령의 영향을 받고 있어요.
- OpenAI 같은 업체가 끝점 역할을 하고 장기 메모리 같은 기능을 쓰려면 사용자 데이터에 접근해야 해서, 완전한 종단 간 암호화는 AI 시스템에서 복잡한 문제예요.
- 알트먼은 사용자들이 민감한 의료나 법적 문제를 공유하면서 의사-환자나 변호사-고객 간 특권과 비슷한 보호를 요구하고 있다고 말했어요.
- 현재 법 집행 기관의 요청은 드물지만(연간 두 자릿수), 한 가지 주요 사건이 변화를 빠르게 만들 수 있다고 알트먼이 예상했어요.
ChatGPT를 위한 암호화 계획
OpenAI의 대표인 샘 알트먼은 아직 출시 일정은 정해지지 않았지만, ChatGPT에 암호화를 도입하는 걸 "매우 진지하게" 생각하고 있다고 말했어요.
알트먼은 임시 채팅이 가장 가능성 높은 시작점이 될 거라고 제안했어요.
이런 채팅은 현재 사용자 기록에 나타나지 않고 모델을 학습시키는 데도 쓰이지 않지만, OpenAI는 안전을 위해 최대 30일까지 복사본을 보관할 수 있어요.
그래도 임시나 삭제된 채팅은 지난 5월에 내려진 연방 법원 명령에 따라 OpenAI가 그 내용을 보관해야 해요.
이런 법적 배경은 법원을 통해 데이터를 여전히 강제할 수 있기 때문에 암호화 추진을 복잡하게 만들어요.
알트먼은 ChatGPT가 실제로 어떻게 쓰이는지 지켜보면서 민감한 데이터를 공유하는 사람들의 중요성이 커지고 있다고 말했어요:
"사람들은 가장 민감한 의료 문제나 그 밖의 모든 것에 대해 ChatGPT에 진심을 쏟아내요. 이를 통해 AI 프라이버시가 매우 중요하다는 생각을 하게 되었어요."
법적 기밀과 특권으로 보호되는 의사나 변호사와의 대화와는 달리, 현재 AI 채팅은 그에 맞는 보호장치를 제공하지 않아요.
AI 암호화의 어려움
끝점만 키를 가지고 있는 메시징 앱에서는 암호화가 간단해요.
하지만 AI 챗봇에서는 제공업체(이 경우 OpenAI)가 대화의 당사자가 돼요.
즉, 전송 중인 데이터를 암호화하는 것만으로는 OpenAI가 채팅 콘텐츠에 접근하거나 법 집행 기관과 공유하지 못하도록 막을 수 없어요.
따라서 진짜 종단 간 암호화를 구현하기가 어려워요.
Apple 같은 일부 기업에서는 부분적인 해결책을 도입했어요.
예를 들어, Apple 인텔리전스를 위한 프라이빗 클라우드 컴퓨팅은 데이터를 회사에 광범위하게 노출하지 않고 Apple 서버에서 쿼리를 실행할 수 있도록 해줘요.
OpenAI의 경우 도전 과제는 훨씬 더 커요.
ChatGPT의 장기 메모리 같은 기능을 쓰려면 회사가 사용자 데이터에 대한 접근 권한을 유지해야 해요.
모든 걸 완전히 암호화하면 해당 기능을 비활성화하거나 다시 설계해야 해서 개인정보 보호와 기능 간에 상충되는 문제가 생겨요.
정부 접근과 늘어나는 압력
알트먼은 OpenAI가 아직 법 집행 기관의 데이터 요청을 많이 받지 않았다는 점을 인정했어요:
"아직은 연간 두 자릿수 정도로 매우 적은 수치지만 점점 늘어나고 있어요. 정말 큰 사건이 하나만 일어나도 사람들이 '여기에는 정말 다른 접근 방식이 필요하다'고 말하게 될 거예요."
그는 이제 사용자들이 의료나 법률 문제에 대해 ChatGPT를 상담하는 친구처럼 대하고 있기 때문에 그 위험성이 더 커졌다고 덧붙였어요.
이런 대화는 일반적으로 의사-환자나 변호사-고객 간의 전문 상담과 비슷하지만, AI를 쓰면 그런 보호가 부족해요.
"AI로부터 더 나은 버전의 [의료와 법률 채팅]을 얻을 수 있다면 같은 이유로 동일한 보호를 받을 수 있어야 해요."라고 알트먼은 말해요.
알트먼은 이 문제가 원래는 자신의 레이더에 포착되지 않았지만 사람들이 공유하는 민감한 데이터의 규모를 깨닫고 나서 우선순위가 되었다고 언급했어요.
Q&A
질문: OpenAI는 ChatGPT에 어떤 유형의 암호화를 생각하고 있나요?
답: OpenAI는 기록에 저장되지 않거나 모델 학습에 쓰이지 않는 임시 채팅부터 암호화를 검토하고 있어요.
질문: 임시 채팅이 첫 번째 단계가 될 가능성이 높은 이유는 무엇인가요?
답: 이미 안전을 위해 최대 30일까지만 제한적으로 보존하는 방식으로 운영되고 있지만, 보존을 요구하는 연방 법원 명령의 영향을 받아요.
질문: ChatGPT에서 완전한 종단 간 암호화가 어려운 이유는 무엇인가요?
답: OpenAI 자체가 대화의 끝점이고, 장기 메모리 같은 기능을 쓰려면 사용자 데이터에 대한 접근이 필요하기 때문이에요.
질문: OpenAI는 법 집행 기관의 데이터 요청을 얼마나 자주 받나요?
답: 알트먼은 아직은 연간 두 자릿수로 매우 적지만 점점 늘어나고 있다고 말해요.
질문: 알트먼은 지금 암호화가 시급하다고 생각하는 이유는 무엇인가요?
답: 그는 사용자들이 민감한 의료와 법적 문제를 ChatGPT와 공유하고 있고, 이를 통해 AI 권한과 더 강력한 보호가 필요하다는 확신을 갖게 되었다고 말했어요.
시사점
ChatGPT의 암호화에 대한 논쟁은 사용자들이 점점 더 민감하고 중요한 대화를 위해 AI에 의존하고 있지만, 현재 이런 채팅에는 사람 전문가에게 주어지는 법적 보호가 부족하다는 긴장감이 커지고 있음을 강조해요.
알트먼의 발언은 개인정보 보호가 부차적인 문제에서 전면적인 관심사로 떠오르고 있는 OpenAI 내부의 변화를 보여줘요.
알트먼과 OpenAI는 AI 상담에 의사-환자나 변호사-고객과 같은 특권을 줘야 한다고 주장하며 정부의 접근에 대한 보호를 포함한 새로운 안전장치를 추진하기 시작했어요.
그는 일반적으로 개인정보 보호 조치에 대해 받아들이는 태도를 보여 온 의원들이 결국 이런 보호 조치를 채택할 거라고 예상했어요.
"얼마나 걸릴지 모르겠어요."라고 알트먼은 말했어요. "사회가 발전해야 한다고 생각해요."
완전한 종단 간 암호화는 기술적으로 여전히 어렵지만, 임시 채팅부터 시작하는 것이 중요한 첫걸음이 될 수 있어요.
더 큰 문제는 AI 기업, 법원, 국회의원이 프라이버시, 안전, 기능이 함께 존재하는 모델에 동의할 수 있느냐는 거예요.
임패커스 블로그 | GPT5 출시 이슈 더 보러가기
출처: Alicia Shapiro, AiNews, "Encryption Could Be Coming to ChatGPT, Says Sam Altman", https://www.ainews.com/p/encryption-could-be-coming-to-chatgpt-says-sam-altman, (2025.08.18)