에스코어 인사이트
원문에 앞서 AI를 개발 과정에 활용하는 국내 개발·보안 조직이 함께 점검할 만한 사항을 간단히 정리했습니다.
•
AI 아티팩트와 실행 권한을 함께 관리하기: 모델과 데이터셋을 단순 파일로 보지 말고 어디에서 처리되는지, 로딩 과정에서 어떤 코드가 실행될 수 있는지, 어떤 자격증명과 내부 시스템에 접근할 수 있는지까지 인벤토리로 관리합니다.
•
새 위협 정보를 실제 의존성 판단에 연결하기: 사고가 공개된 뒤 단순 알림을 받는 데서 끝내지 말고 자사 환경의 구성요소·모델·컨테이너와 대조해 영향 여부와 우선순위를 빠르게 판단할 수 있는 공급망 정보 체계를 마련합니다.
•
자동화된 수정과 사람의 검토를 결합하기: 긴급한 의존성 변경은 안전한 버전 탐색, 호환성 확인, 변경 적용, 검증을 자동화하되 최종 배포와 사고 대응 판단은 개발자와 보안 담당자가 검토하는 구조로 운영합니다.
Sonatype 원문 번역
Hugging Face 사고가 엔지니어링 조직에 주는 교훈과 AI 시대의 빠른 대응을 지원하는 Sonatype
악성 데이터셋은 회사의 데이터 처리 파이프라인에서 두 가지 코드 실행 경로를 악용해 처리 워커에서 코드를 실행했습니다. 이후 공격자는 노드 수준까지 접근 범위를 넓혀 자격증명을 수집하고 내부 클러스터 간에 수평 이동했습니다.
Hugging Face는 일부 내부 데이터셋과 서비스 자격증명에 무단 접근이 있었다고 밝혔지만, 공개 모델과 데이터셋, Spaces, 컨테이너 이미지, 공개 패키지가 변경됐다는 증거는 찾지 못했습니다. 이후 AI를 활용한 분석으로 17,000건이 넘는 공격자 활동을 며칠이 아니라 몇 시간 안에 재구성했습니다.
AI 아티팩트는 이제 현대 소프트웨어 개발에서 중요한 입력 요소가 되고 있습니다. 모델, 데이터셋, 라이브러리, 에이전트, 도구와 에이전트가 접근할 수 있는 시스템 사이에는 새로운 신뢰 관계와 실행 경로가 생깁니다. 이런 관계를 파악하거나 통제하지 못하면 하나의 아티팩트에서 시작한 공격이 더 중요한 시스템으로 빠르게 번질 수 있습니다.
문제는 예방만이 아니다. 최신 보안 정보를 즉시 활용할 수 있어야 한다
조직이 새로 등장하는 모든 AI 관련 취약점, 악성 아티팩트, 공격 경로를 막을 수는 없습니다. 더 시급한 과제는 피해가 확산되기 전에 새롭게 등장한 위협이 자사에도 영향을 미치는지 파악하는 것입니다.
소프트웨어 공급망이 확대될수록 특정 위협이 자사에 미치는 영향을 빠르게 판단하기가 더 어려워지고 있습니다. Sonatype의 2026 State of the Software Supply Chain 보고서에 따르면 2025년에 새로 확인된 악성 오픈소스 패키지는 454,600개를 넘었고, npm·PyPI·Maven Central·NuGet·Hugging Face 전반에서 확인·차단된 악성 패키지는 누적 123만 3천 개를 넘어섰습니다.
AI는 소프트웨어를 조립하는 속도를 높이는 동시에 보안 판단의 횟수도 늘려 문제를 더 복잡하게 만듭니다. Sonatype Research Labs에 따르면 2022년 6월부터 2026년 6월 사이 새로 영향을 받는 구성요소 버전이 늘어나는 속도는 AI 이전보다 46배 높아졌고, 기업이 매달 생성하는 애플리케이션 수의 평균도 4.84배 증가했습니다.
대형 보안 사고가 발생했을 때 조직에 필요한 것은 단순한 경보가 아닙니다. 무슨 일이 일어났는지, 어떤 기술이 관련됐는지, 그 위협이 자사 환경에도 영향을 미치는지를 즉시 판단할 수 있는 최신 정보가 필요합니다.
새로운 위협 환경에서 조직이 갖춰야 할 역량
Hugging Face 보안 사고는 AI가 기업의 소프트웨어 환경과 더 깊이 연결될수록 세 가지 역량이 중요해진다는 점을 보여줍니다. 실시간 상황 파악, 가시성과 거버넌스, 자동화된 대응입니다.
의존성 정보를 선제적으로 활용하기
Sonatype Guide는 개발자와 AI를 활용한 개발 과정에 최신 소프트웨어 공급망 정보를 제공합니다. 코딩 어시스턴트만으로는 알기 어려운 구성요소와 버전, 위험 관련 정보를 보완해 의존성을 선택할 때 더 충분한 정보를 바탕으로 판단할 수 있도록 돕습니다.
의존성을 선택하면 당장의 개발 요구를 해결할 수 있지만 동시에 취약점, 악성코드, 라이선스 문제, 향후 유지보수 부담을 가져올 수 있습니다. 구성요소를 고르는 시점에 최신 정보를 활용하면 AI를 활용하는 개발 조직이 더 나은 선택을 하고, 나중에 수정 작업으로 이어질 위험을 미리 줄일 수 있습니다.
실시간 상황 파악
실시간 상황 파악은 단순히 보안 공지가 나왔다는 사실을 아는 데 그치지 않습니다. 위협이 어떻게 작동하는지, 조직의 어느 부분이 위협에 노출될 수 있는지를 이해해야 합니다.
이번 사례에서는 특정 모델이나 데이터셋을 사용하는지만 확인해서는 부족합니다. AI 아티팩트가 어디에서 처리되는지, 로딩할 때 어떤 코드가 실행될 수 있는지, 해당 환경에서 어떤 자격증명에 접근할 수 있는지, 자동화 에이전트가 내부 시스템이나 도구를 사용할 수 있는지까지 살펴봐야 합니다.
AI를 활용하는 공격자는 기존에는 별개로 분류해 처리했을 약점들을 평가하고 서로 연결할 수 있습니다. 낮은 심각도의 취약점, 자격증명 노출, 설정 오류가 하나의 실제 공격 경로로 이어지면 큰 문제가 될 수 있습니다.
가시성과 거버넌스
AI 소프트웨어 공급망은 단순한 코드 의존성 목록보다 범위가 넓습니다.
AI를 활용하는 애플리케이션은 모델, 데이터셋, 프레임워크, 컨테이너, API, 도구, 에이전트, 오픈소스 구성요소에 의존할 수 있습니다. 조직은 어떤 AI 아티팩트를 어디에서 사용하는지, 무엇에 접근할 수 있는지, 정해진 보안·정책 요구사항을 충족하는지 알아야 합니다.
특히 팀이 공개 소스에서 모델이나 관련 아티팩트를 직접 다운로드하는 환경에서는 가시성과 통제가 더 중요합니다. Sonatype이 이전에 다룬 것처럼 통제되지 않은 '섀도 다운로드'는 위험을 키울 수 있습니다. 해당 아티팩트가 자산 목록에 잡히지 않고 보안 검사와 정책 집행을 우회하며, 출처와 이력을 신뢰할 수 있게 확인하기 어려울 수 있기 때문입니다.
오픈소스 AI는 혁신 속도를 높일 수 있지만, 소프트웨어 공급망의 다른 구성요소와 마찬가지로 체계적으로 관리해야 합니다. 조직은 Hugging Face 모델을 포함한 기존 소프트웨어 구성요소와 AI 아티팩트 모두에 일관된 통제를 적용하고, 새로운 위험이 나타났을 때 조사에 활용할 수 있도록 SBOM과 AI-BOM을 유지해야 합니다.
Sonatype은 오픈소스 구성요소, 컨테이너, Hugging Face 모델을 포함한 AI 아티팩트를 조직이 파악하고 통제할 수 있도록 지원합니다.
자동화된 대응
가시성과 정보는 실제 대응으로 이어질 때 의미가 있습니다.
영향받는 의존성을 확인한 뒤에도 적절한 버전을 선택하고, 호환성을 평가하고, 변경 사항을 적용해 검증한 뒤 리뷰와 배포 절차를 거쳐야 합니다. 보안 상황이 빠르게 변할 때는 이 과정 자체가 병목이 될 수 있습니다.
조직의 보안 문제 해결 속도는 빨라지고 있습니다. Sonatype 조사에서는 해결된 정책 위반의 절반 이상이 하루 안에 처리됐습니다. 하지만 4년간 애플리케이션당 Critical·High 등급 취약점 수는 여전히 4.31배 증가했습니다. 빠른 수정은 계속 중요하지만, 처음부터 더 나은 구성요소를 선택하면 나중에 수행해야 할 수정 작업 자체를 줄일 수 있습니다.
Agent P가 사고 대응이나 격리 조치를 대신하거나, 복잡한 변경에 필요한 엔지니어의 판단을 대체하는 것은 아닙니다. Agent P는 이미 확인된 의존성 위험에 대해 검증된 수정안을 신속하게 마련해 AI로 빨라진 개발 속도를 따라갈 수 있도록 돕습니다.
더 넓게 보면
Hugging Face 사고가 모든 조직에 같은 공격 경로가 존재한다는 뜻은 아닙니다. 다만 AI를 활용한 공격이 더 이상 이론에 머물지 않으며, 소프트웨어 공급망의 범위가 패키지와 라이브러리를 넘어섰다는 사실은 분명합니다.
조직이 모델, 데이터셋, 에이전트와 AI를 활용한 개발 방식을 도입하면 외부 아티팩트와 내부 시스템 사이에 새로운 연결이 생깁니다. 이런 연결은 혁신 속도를 높일 수 있지만, 개별 취약점 점수나 정기적인 검토만으로는 파악하기 어려운 공격 경로를 만들 수도 있습니다.
현실적인 대응은 AI 도입 속도를 늦추는 것이 아닙니다. 개발 초기부터 무엇을 사용하고 있는지 파악하고, 최신 정보를 활용하며, 개발 과정에 들어오는 아티팩트를 통제하고, 상황이 바뀌면 빠르게 대응할 수 있어야 합니다.
AI는 소프트웨어를 조립하고 업데이트하는 속도뿐 아니라 공격이 이뤄지는 속도까지 높이고 있습니다. 보안 체계도 그 속도에 맞춰 움직여야 합니다.
Sonatype Guide가 개발자와 AI를 활용한 개발 과정에 실시간 소프트웨어 공급망 정보를 어떻게 제공하는지 살펴보세요. Guide에서 무료 계정을 만들어 더 나은 에이전트 기반 개발 방식을 직접 확인할 수 있습니다.
에스코어는 Sonatype 공식 파트너로서 소프트웨어 공급망 보안 및 오픈소스 거버넌스 구축을 지원합니다.
도입이나 구축이 필요하시면 언제든 문의해 주세요.
지원 솔루션: Nexus Repository · Repository Firewall · Lifecycle · Sonatype Guide