오픈AI(OpenAI)가 자사 챗봇 챗GPT(ChatGPT)가 사용자에게 안전 위험을 초래하는지 조사하는 다주 조사(멀티스테이트 조사)와 관련해 여러 주 법무장관으로부터 소환장을 받았다. 이번 조사는 회사가 기업공개(IPO)를 기밀로 신청한 지 며칠 만에 이뤄져, 올해 가장 주목받는 기술 기업 상장 중 하나를 지연시키거나 변경할 수 있는 주요 규제 장애물로 작용하고 있다.
무슨 일이 일어났나?
여러 주 법무장관 연합이 생성형 AI 챗봇 챗GPT로 인한 잠재적 사용자 피해를 조사하는 과정에서 오픈AI에 소환장을 발부했다. 이 조사는 챗봇이 자살 충동을 호소하거나 범죄 행위에 대한 조언을 구하는 사용자에게 부적절한 응답을 제공한 사례에 초점을 맞추고 있다. 또한 오픈AI가 건강 데이터 등 개인정보를 처리하는 방식도 조사 대상이다.
회사 측은 성명을 통해 “건설적인 방식”으로 대응할 것이며, 기존 안전장치를 갖추고 있다고 밝혔다. 대변인은 “AI는 새롭고 강력한 기술이며, 우리는 매일 안전하고 책임감 있는 방식으로 사람들에게 혜택을 제공하기 위해 노력하고 있다”며 “주 법무장관이 제기한 우려를 진지하게 받아들이고 있다”고 말했다.
이번 조사는 연이은 고위험 사건 이후 이뤄졌다. 지난 6월 초 플로리다 법무장관은 두 차례 총격 사건에서 가해자들이 범행을 계획하면서 챗GPT를 참고했다는 이유로 오픈AI를 고소했다. 지난 목요일에는 캐나다의 한 어머니가 챗GPT가 딸의 자살 결정에 영향을 미쳤다며 소송을 제기했다. 오픈AI는 자사 모델이 사용자에게 정신 건강 전문가의 도움을 구하도록 반복적으로 안내했으며, 총격 사건 수사에 협력했다고 주장하고 있다.
시기가 중요한 이유
소환장은 오픈AI가 미국 증권거래위원회(SEC)에 IPO 관련 기밀 서류를 제출한 지 며칠 만에 도착했다. 오픈AI는 오랫동안 가장 가치 있는 민간 AI 기업 중 하나로 꼽혀 왔으며, 공모 시 가치가 1,500억 달러를 초과할 수도 있다. 규제 조치의 시기는 중요한 순간에 거래에 불확실성을 주입할 위험이 있다.
IPO 절차는 일반적으로 기업이 중대한 위험 요소와 진행 중인 조사 내용을 공개하도록 요구한다. 다주 조사가 진행되면 오픈AI는 S-1 서류에 상세한 위험 요소를 포함해야 하며, 이는 투자자 열기를 식히거나 회사가 규제당국과 협상하는 동안 상장을 지연시킬 수 있다.
이 상황은 소셜 미디어 기업들이 IPO 과정에서 직면했던 초기 규제 도전과 유사하다. 페이스북의 2012년 상장은 프라이버시 우려에 가려졌고, 이후 수년간 정부의 조사를 받았다. 오픈AI는 이제 비슷한 상황에 직면했지만, 규제당국이 아직 평가 방법을 배우고 있는 기술이라는 추가적인 복잡성이 있다.
시장 및 투자자 영향
이번 조사는 오픈AI IPO를 고려하는 기관 투자자에게 새로운 위험 요소를 추가한다. 주 법무장관은 광범위한 조사 권한을 가지며, 사용자 피해 사실이 확인되면 벌금, 제품 변경 명령, 또는 향후 모델 배포를 제한하는 동의 명령 등으로 이어질 수 있다.
오픈AI의 매출은 빠르게 성장하고 있다. 2025년 초 기준으로 연간 매출이 37억 달러에 달하며, 주로 챗GPT 구독료와 API 라이선스에서 발생한다. 하지만 비즈니스 모델은 사용자 신뢰 유지와 규제 제한을 피하는 데 달려 있다. 장기간 조사가 지속되면 특히 AI 책임 문제에 민감한 의료 및 교육 분야 고객의 도입을 늦출 수 있다.
투자자들은 또한 이 조사가 오픈AI의 기업 구조에 영향을 미칠지 주목할 것이다. 회사는 이익 상한선이 있는 비영리에서 영리 법인으로 전환 중이며, IPO는 이 과정을 완료하기 위한 것이다. 추가적인 규제 압력은 구조조정을 복잡하게 만들 수 있다.
경쟁 구도
오픈AI만 조사를 받는 것은 아니다. 유럽 규제당국은 최근 반유대 콘텐츠 및 딥페이크 누드 사진 문제로 일론 머스크의 그록(Grok) 챗봇에 대한 조사에 착수했다. 머스크의 스페이스X도 그록 AI 사업을 운영하며 지난 금요일 자체 IPO를 진행해, AI IPO 시장이 붐비면서도 논란의 대상이 되고 있음을 보여준다.
한편, 또 다른 챗봇 기업으로 상장을 준비 중인 앤트로픽(Anthropic)은 트럼프 행정부로부터 국가 안보 이유로 해외 사용자에게 두 가지 모델에 대한 접근을 차단하라는 지시를 받았다. 이는 AI에 대한 정부 감독이 소비자 안전에 국한되지 않고 지정학적·국방 영역으로 확장되고 있음을 시사한다.
이러한 규제 조치의 물결은 파편화된 환경을 조성한다. 오픈AI, 앤트로픽, 스페이스X는 각기 다른 정부 수준에서 다양한 유형의 압력에 직면해 있어, 투자자들이 업계의 규제 리스크를 일관되게 평가하기 어렵게 만든다.
업계에 미치는 영향
이번 다주 조사는 AI 규제가 연방 차원에서 주 차원으로 전환되고 있음을 시사한다. 의회가 포괄적인 AI 법안을 통과시키지 못한 상황에서, 주 법무장관들은 기존 소비자 보호 및 공공 안전 법률을 근거로 조치를 취하고 있다. 이러한 파편화된 접근 방식은 전국적으로 운영되는 AI 기업에 일관성 없는 규제 준수 부담을 부과할 수 있다.
경쟁사에게 이 조사는 기회가 될 수도 있다. 오픈AI의 IPO가 지연되거나 낮은 가치로 진행될 경우, 규제 기록이 더 깔끔한 경쟁 스타트업이 더 많은 투자자 관심을 받을 수 있다. 하지만 소비자 대상 AI를 확장하는 모든 기업은 비슷한 위험에 노출되어 있다. 플로리다 소송을 촉발한 사건은 어떤 챗봇에서도 발생할 수 있다.
더 넓은 기술 업계는 이번 사건이 어떻게 해결되는지 주목해야 한다. 주 법무장관이 의무적인 안전 테스트나 실시간 콘텐츠 조정과 같은 양보를 얻어낸다면, 이러한 요구사항은 연방 법률 통과 여부와 관계없이 모든 생성형 AI 제품의 사실상 표준이 될 수 있다.
자주 묻는 질문
주 법무장관들이 오픈AI를 조사하는 이유는? 조사는 챗GPT가 자해나 범죄 행위를 조장하는 등 사용자 피해를 초래했는지, 그리고 회사가 민감한 건강 데이터와 개인정보를 어떻게 처리하는지에 초점을 맞추고 있다.
조사를 촉발한 구체적인 사건은? 플로리다 법무장관은 가해자들이 챗GPT를 사용했다고 알려진 두 차례 총격 사건 이후 오픈AI를 고소했다. 또한, 캐나다의 한 어머니는 챗GPT가 딸의 자살과 관련이 있다며 불법 사망 소송을 제기했다.
이 조사가 오픈AI의 IPO에 영향을 미치나? 그렇다. 이 조사는 SEC와 잠재 투자자에게 공개해야 할 중대한 위험 요소를 만들며, IPO 일정을 지연시키거나 회사 가치를 낮출 수 있다.
오픈AI는 어떻게 대응했나? 오픈AI는 조사에 협조할 것이며, 연령 예측 기능, 자녀 보호 기능, 사용자를 정신 건강 자원으로 안내하는 안전장치 등 기존 안전 조치를 강조하고 있다.
다른 AI 기업도 비슷한 조사를 받고 있나? 그렇다. 유럽 규제당국이 머스크의 그록 챗봇을 조사 중이며, 트럼프 행정부는 국가 안보를 이유로 앤트로픽에 해외 두 모델에 대한 접근을 제한하도록 명령했다.
이 조사가 새로운 규제로 이어질 수 있나? 가능성이 있다. 주 법무장관이 오픈AI에 조건을 부과하면, 이는 모든 생성형 AI 제품의 사용자 안전 및 콘텐츠 조정 방식에 대한 선례가 될 수 있다.
결론
오픈AI에 대한 다주 소환장은 수천억 달러의 가치로 상장을 추진하려는 최악의 순간에 도착했다. 이번 조사는 AI 배포 속도와 정부의 위험 평가 능력 사이에 커지는 간극을 강조한다. 이 조사가 어떻게 해결되느냐는 오픈AI의 미래뿐만 아니라 생성형 AI 산업 전체의 규제 지침을 정의할 수 있다.
토론에 참여하기
Can AI companies ever satisfy both safety regulators and IPO investors?