Dawn Song

Dawn Song은 캘리포니아 대학교 버클리(UC Berkeley)의 중국계 미국인 컴퓨터 과학 교수로, 컴퓨터 보안, 인공지능 및 blockchain 기술에 기여한 공로를 인정받고 있습니다.^[3]​

그녀는 사용자 프라이버시를 보호하기 위해 Oasis Network로 알려진 blockchain 기술을 사용하는 클라우드 컴퓨팅 회사인 Oasis Labs를 설립했습니다.

경력

교육 및 초기 경력

Song 박사는 1996년 칭화 대학교에서 물리학 학사 학위를 받았으며, 이어서 1999년 카네기 멜런 대학교에서 컴퓨터 과학 석사 학위를 받았습니다.^[5]​^[16] 2002년에는 캘리포니아 대학교 버클리에서 박사 학위를 취득하여 컴퓨터 과학, 보안 및 인공지능 분야의 전문성을 확립했습니다. 2002년부터 2007년까지 Song 박사는 카네기 멜런 대학교에서 조교수로 재직했으며, 이후 UC 버클리 교수진에 합류했습니다.^[1]​^[4]​

연구 분야

Song 박사의 연구는 컴퓨터 시스템을 공격에 취약하게 만드는 소프트웨어, 하드웨어 및 네트워크 간의 상호 작용을 탐구합니다. 그녀는 컴퓨터 시스템과 네트워크의 보안 과제를 이해하고 완화하기 위해 이론적 접근 방식을 채택합니다. 그녀의 연구는 소프트웨어 보안, 네트워킹 보안, 데이터베이스 보안, 분산 시스템 보안, 응용 암호학, 그리고 머신러닝과 보안의 교차점 등 다양한 영역에 걸쳐 있습니다.^[5]​

Song 박사는 멀웨어를 분석하고 보안 패치를 사용할 수 있을 때까지 자율적으로 보호 필터를 생성하는 BitBlaze 플랫폼을 개발했습니다. 이 프로그램은 패치를 검사하고 취약점을 악용하는 새로운 멀웨어를 생성하여 프로그래머가 효과적인 보안 패치를 제작할 수 있도록 지침을 제공합니다. 보안 공격이 발생한 후, BitBlaze는 동일한 취약점을 노리는 다양한 미래의 공격으로부터 방어할 수 있습니다. BitBlaze는 나중에 Google Chrome 웹 브라우저에 통합되었습니다.^[4]​

Song의 연구에는 AI 안전 및 보안과 에이전틱(agentic) AI가 포함됩니다. 에이전틱 시스템은 계획을 세우고, 도구를 사용하며, 행동을 취하고 적응할 수 있는데, 이는 프롬프트 인젝션(prompt injection)이나 오류, 또는 확장된 일련의 행동 과정에서 사용자의 의도와 일치하지 않는 위험을 초래할 수 있습니다. 그녀는 이러한 과제를 해결하기 위한 접근 방식으로 강력한 평가, 설계 단계부터의 보안(secure-by-design) 아키텍처, 해석 가능성 및 인간의 감독을 제시했습니다.^[3]​^[9]​

Song은 탐지를 회피하도록 전략적으로 조정된 프롬프트 인젝션 입력을 감지하기 위해 미니맥스(minimax) 최적화를 사용하여 언어 모델을 미세 조정하는 방법인 DataSentinel을 공동 저술했습니다. 이 연구는 2025년 IEEE 보안 및 프라이버시 심포지엄에서 우수 논문상(Distinguished Paper Award)을 수상했습니다.^[10]​^[3]​

Song의 연구 및 대외 활동에는 2026년 8월까지 전 세계적으로 약 40,000명의 학습자가 참여한 Berkeley Agentic AI MOOC 시리즈와 약 5,000명의 현장 참석자 및 수만 명의 온라인 시청자를 기록한 2026 Berkeley Agentic AI Summit이 포함됩니다.^[9]​

Virtue AI 및 Meta

Virtue AI는 AI 안전 및 보안 제품을 개발하기 위해 2024년 Dawn Song, Bo Li, Carlos Guestrin, Sanmi Koyejo에 의해 설립되었습니다. 이 회사의 서비스에는 자동화된 레드 티밍(red teaming), 가드레일, 기업 시스템의 AI 보안 및 거버넌스를 위한 도구가 포함되었습니다. 2025년 4월 15일, 회사는 3,000만 달러의 시드 및 시리즈 A 펀딩을 발표했습니다.^[11]​

2026년 6월 25일, Song은 AI 안전 및 보안에 집중하기 위해 Virtue AI 팀원들과 함께 Meta Superintelligence Labs에 AI 연구 부사장으로 합류한다고 발표했습니다. 이 행보는 Virtue AI의 인수가 아닌 팀 채용 형식이었습니다.^[12]​

Fortinet은 2026년 8월 17일, 공개되지 않은 조건으로 Virtue AI를 인수했다고 발표했습니다. Fortinet은 Virtue AI의 제품이 레드 티밍, 가드레일, AI 보안 및 거버넌스 도구를 통해 개발 및 런타임 전반에 걸쳐 자사의 AI 보호 역량을 확장할 것이라고 밝혔습니다.^[13]​

2026년 10월 2일, Meta는 6월에 합류한 지 4개월 만에 Virtue AI 출신 직원들과 결별했음을 확인했습니다. Meta는 이별의 원인을 업무 방식의 충돌로 돌렸으며, 자사의 AI 안전에 대한 집중은 계속될 것이라고 밝혔습니다.^[14]​

수상 및 인정

2010년에 그녀는 멀웨어로부터 컴퓨터 시스템을 보호하려는 노력, 특히 시스템 활동 패턴을 분석하여 잠재적인 보안 침해를 식별하는 기술을 개발한 공로로 맥아더 재단 펠로우십(MacArthur Foundation Fellowship)을 받았습니다.^[2]​

보안 및 프라이버시 문제에 대한 Song 박사의 기여는 국립과학재단(NSF) CAREER 어워드, 세계 최고의 젊은 혁신가 중 한 명으로 선정된 MIT 테크놀로지 리뷰 어워드, 구겐하임 펠로우십, 알프레드 P. 슬론 연구 펠로우십, IBM 교수진 어워드 등 수많은 영예를 안겨주었습니다.^[2]​

2025년, Song은 미국 예술 과학 아카데미(American Academy of Arts and Sciences) 회원으로 선출되었으며 Schmidt Sciences AI2050 시니어 펠로우로 선정되었습니다.^[15]​^[3]​

Oasis Labs

2018년, Song 박사는 Bobby Jaros(COO), Noah Johnson(CPO), Raymond Cheng(CTO)과 함께 Oasis Labs를 공동 설립했습니다. Oasis Labs는 프라이버시 및 보안 조치와 향상된 처리 능력을 통해 사용자에게 데이터 제어권을 되돌려주기 위해 노력합니다. 이 조직은 하드웨어 및 소프트웨어 기술을 활용하여 blockchain 기술과 통합된 머신러닝을 포함한 클라우드 규모의 실용적인 애플리케이션 배포를 촉진합니다.^[6]​

인터뷰

블록체인 및 프라이버시

2022년 9월 28일, Song 박사는 나스닥의 "TradeTalks"에서 Jill Malandrino와 인터뷰를 가졌으며, 여기서 Oasis Labs의 Web3 기술 혁신에 대해 논의했습니다.^[8]​

그녀는 당시 Oasis Labs의 최신 제품이었던 Sapphire가 blockchain의 사용자 프라이버시에 어떻게 중요한 혁신을 가져왔는지 설명했습니다.^[8]​

책임 있는 데이터 경제

2020년 10월 2일, Song 박사는 Outlier Ventures와 인터뷰를 가졌습니다. 인터뷰 중에 그녀는 사용자에게 데이터에 대한 제어권을 부여하는 것의 중요성을 강조하고 프라이버시 보호의 필요성을 역설했습니다. 그녀는 이어서 그녀가 '책임 있는 데이터 경제(responsible data economy)' 프레임워크라고 부르는 것을 다음과 같이 정의합니다.^[7]​

"이 새로운 프레임워크는 데이터에 대한 사용자의 권리를 확립하고 보장하여, 자신의 데이터가 어떻게 사용되는지에 대한 통제권을 유지할 수 있도록 하는 것을 목표로 합니다. 동시에 사용자의 권리를 준수하고 존중하며 집행하면서도 데이터를 더 효과적으로 활용할 수 있도록 촉진합니다. 이것이 책임 있는 데이터 경제의 핵심입니다."

그녀는 나중에 blockchain과 머신러닝을 결합할 때의 이점을 설명하고, Oasis Network가 책임 있는 데이터 경제를 만들기 위해 두 개념을 어떻게 사용하는지 논의합니다.^[7]​