일리야 수츠케버 : SSI는 샘 올트만과 오픈AI의 감시자
2023.11.17~2027·1화일리야 수츠케버 : SSI는 샘 올트만과 오픈AI의 감시자
LIFE COUNT
1986.12.08~2025.11.26·1화일리야 수츠케버
2025년 02월 19일 수요일
일리야 수츠케버 : SSI는 샘 올트만과 오픈AI의 감시자
오픈AI에서 샘 올트만한테 패하고 밀려난 일리야 수츠케버 SSI 창업자는 AI 목표 정렬 문제를 해결해서 결국 오픈AI가 만들 AGI를 감시할 AGI를 만들려고 합니다.
1
인공지능 스타트업 세이프 슈퍼 인텔리전스=SSI의 창업자 일리야 수츠케버는 2025년 2월 17일+샌프란시스코의 벤처 캐피털 그리녹스 캐피털 파트너스와 함께 10억 달러의 투자 유치 협상을 진행하고 있다.
2
일리야 수츠케버와 그리녹스 캐피털 파트너스가 추진하는 10억 달러 투자 라운드가 성공하면=SSI의 기업 가치는 300억 달러를 넘게 된다.
3
일리야 수츠케버는 2023년 11월 17일 샘 올트만 오픈AI CEO를 해임시키는=수츠케버의 난을 주도했다.
4
오픈AI에서 샘 올트만은 인공지능의 빠른 상업화를 추진해왔다.
5
오픈AI에서 일리야 수츠케버는 인공지능의 안전성을 강조해왔다.
6
수츠케버의 난은 샘 올트만이 2023년 11월 19일 오픈AI CEO로 복귀하면서=3일 만에 마무리됐다.
7
샘 올트만의 복귀는 사티아 나델라 MS CEO와 조슈아 쿠슈너 쓰라이브 캐피털 CEO=오픈AI 영리법인 투자자들의 강력한 지지가 있어서 가능했다.
8
수츠케버의 난이 실패하면서=일리야 수츠케버가 이끌던 오픈AI의 안전 전담 부서인 슈퍼얼라인먼트팀도 사실상 기능이 정지됐다.
9
일리야 수츠케버는 2024년 5월 14일 오픈AI를 떠났다.
10
일리야 수츠케버가 떠나면서 오픈AI의 슈퍼얼라인먼트팀도 해체됐다.
11
일리야 수츠케버는 2024년 6월 인공지능 스타트업 세이프 슈퍼 인텔리전스=SSI를 공동창업했다.
12
대니얼 그로스=애플 AI 책임자.
13
대니얼 레비=오픈AI 출신.
14
일리야 수츠케버는 SSI에서 AI 목표 정렬 문제를 해결해서=세상에서 가장 안전한 인공지능을 만드는 것이 목표다.
15
일리야 수츠케버는 SSI가 안전하고 장기적인 인공일반지능 개발에 집중할 수 있게 만들려고 한다.
16
일리야 수츠케버는 챗봇+이미지 생성도구와 같은 B2C용 소비자 상품을 전면 배제했다.
17
일리야 수츠케버는 AI 얼라인먼트로 인공지능이 편향을 갖고 위험한 목표 설정을 하는 것을 근본적으로 차단한다.
18
일리야 수츠케버는 AI의 목표 정렬=얼라인먼트 연구에서 인간 가치와의 일치성을 검증할 수 있는 프레임워크를 개발하고 있다.
19
오픈AI처럼 성능 향상 후 보안 문제를 해결하지 않고+일리야 수츠케버는 인공지능의 설계 단계부터 안전성을 시스템에 통합한다.
20
일리야 수츠케버는 오픈AI에서 빅데이터와 대규모 컴퓨팅 파워를 결합해서 인공신경망을 구축하는 스케일링 법칙을 구축했다.
21
일리야 수츠케버는 SSI에선 모델 사전 훈련보다 추론 효율성 향상에 집중하고 있다.
22
모델 사전 훈련은 에너지 낭비가 심하고 의사 결정의 정확도가 떨어진다.
23
일리야 수츠케버는 양자 컴퓨팅과 결합한 인공신경망 알고리즘을 개발하고 있다.
24
일리야 수츠케버는 오픈AI가 샘 올트만에 의해 속도 중심 개발 문화로 변질됐다고 본다.
25
샘 올트만은 자아를 가진 일반 인공 지능을 최초로 달성하기 위해 규모를 키우는데 몰두하고 있다.
26
일리야 수츠케버는 샘 올트만과 달리 착한 인공지능 개발을 최우선 순위에 두고 있다.
27
일리야 수츠케버는 슈퍼얼라인된 슈퍼인텔리전스 개발을 목표로 하고 있다.
28
일리야 수츠케버는 2024년 9월 첫 투자 라운드를 돌았고=SSI의 기업 가치는 50억 달러로 평가 받았다.
29
일리야 수츠케버의 SSI는 2024년 9월까지 아무런 제품도 공개하지 않았다.
30
앤드리슨 호로위츠는 2024년 70억 달러 규모의 AI 안전성 전용 펀드를 조성했다.
31
SSI의 주요 투자자들.
32
세콰이어 캐피털.
33
앤드리슨 호로위츠.
34
DST 글로벌.
35
2024년 9월 조슈아 쿠슈너의 쓰라이브 캐피털이 주도한 샘 올트만의 오픈AI에 대한 투자 라운드에서=오픈AI 영리법인의 기업 가치는 3000억 달러로 평가됐다.
36
일리야 수츠케버는 2024년 11월 기존 트랜스포머 아키텍처 대비 40% 이상 추론 효율성을 높인 SSI-Net 모델을 공개했다.
37
양자 컴퓨터와 신경망 컴퓨터와 혼합.
38
실시간 윤리 감시 레이어=Real-time Ethical Monitoring Layer.
39
자기 수정 알고리즘=Self-Correcting Algorithm.
40
일리야 수츠케버는 2024년 12월 SSI 안전 프로토콜 1.0=SSI Safety Protocol 1.0을 발표했다.
41
일리야 수츠케버는 2025년 1월 MIT와 옥스포드 대학교와 함께 초지능 통제 프레임워크 연구 컨소시엄을 출범시켰다.
42
2025년 1월 EU 집행위원회는 AI 통제법을 발표했다.
43
EU의 AI 통제법은 일리야 수츠케버의 SSI 안전 프로토콜을 참조했다.
44
일리야 수츠케버는 규제가 SSI 기준으로 수립되면 빅테크 기업들이 SSI와의 기술 제휴를 하게 된다고 본다.
45
일리야 수츠케버가 만들고 있는 SSI 안전 프로토콜의 핵심 기술은 다음과 같다.
46
블록체인 기술을 활용해서 실시간 확인.
47
AI의 의사 결정에 대해 사후 검증이 가능하도록 불변적 기록=타임 스탬프 기반.
48
개인 정보의 선택적 정보 공개 매커니즘.
49
일리야 수츠케버는 2026년 상반기까지 얼라인먼트 인덱스 0.9 달성하는 것이 목표다.
50
인공지능의 의사 결정이 인간 가치와 90% 이상 일치하는 것을 수학적으로 증명한다.
51
2025년 2월 기준 50여 명의 핵심 인재를 확보했다.
52
슈퍼얼라인먼트=초정렬 분야의 권위자들이다.
53
AI 목표 정렬 문제가 최우선 과제다.
54
매주 70시간 이상의 연구하고 있고 스타트업이라기보단 연구소에 가깝다.
55
SSI의 2027년까지 누적 연구 비용이 150억 달러에 달한다.
56
SSI는 다음의 방식으로 AI 목표 정렬 문제를 해결하고 있다.
57
역강화학습.
58
인공지능이 인간의 행동을 관찰해서 인간의 선호와 가치를 학습하게 만든다.
59
Inverse Reinforcement Learning=IRL.
60
협력적 역강화학습=Cooperative Inverse Reinforcement Learning=CIRL.
61
인간이 협력하는 모습을 협력 게임으로 모델링.
62
초지능 정렬=Superalignment.
63
인간보다 뛰어난 초지능이 인간의 의도에 따르도록 만드는 것.
64
일리야 수츠케버는 초지능 정렬에 특히 집중하고 있다.
65
인공지능이 다른 인공지능을 감독하게 만드는 것이 핵심이다.
66
SSI의 인공지능을 결국 오픈AI나 xAI의 인공지능을 감시하는 역할을 하게 된다.
일리야 수츠케버