대규모 언어 모델 제공업체들은 API 데이터 수집 관행과 클라이언트 측 운영이 잠재적인 신뢰 결손을 야기함에 따라, 사용자 개인정보 보호 우려에 대응해야 한다는 압박을 갈수록 더 받고 있다. 사용자들이 기본적인 데이터 수집은 인지하고 있지만, 이러한 정보의 저장과 2차 처리는 여전히 불투명하며 사용자의 통제 범위를 벗어나 있어, 엄격한 규정 준수 요건을 갖춘 기업 고객들에게 상당한 위험을 초래하고 있다. AI 기업과 제3자 API 중계 서비스의 보안 취약점은 대규모 데이터 유출이나 내부자 악용이라는 즉각적인 위협을 제기한다. 업계 관찰자들은 블랙마켓 행위자와 사이버 범죄자들이 이론적인 AI 초지능 위험보다 사용자 개인정보에 더 임박한 위험을 가한다고 경고하며, 신뢰의 균열이 되돌릴 수 없게 되기 전에 제공업체들이 데이터 보안을 우선시할 것을 촉구하고 있다.