OpenAI
최근 편집일시 : (♥ 1)
분류
1. 개요[편집]
인공지능을 개발하며 안전한 AGI 개발을 추구하는 미국의 비영리 단체. 대형 언어 모델 (LLM)과 이를 기반으로 하는 ChatGPT 등의 소프트웨어를 제공한다.
2. 역사[편집]
일론 머스크와 샘 올트먼, 그렉 브록만이 폐쇄형 인공지능의 대표주자인 구글에 대항하기 위하여 아이디어를 구체화하고 비영리로 사업을 시작했다고 한다. 머스크와 올트먼은 공동 의장 직책을 맡는다.[5][6]
머스크는 4,500만 달러[7] 를 출자했으며 연줄로 페이팔 마피아 출신의 리드 호프먼과 피터 틸의 기부 서명을 이끌어냈다. 올트먼은 Y Combinator 공동 창업자인 제시카 리빙스턴과 YC Reseach의 기부 서명을 이끌어냈다. 그 외에 아마존 웹 서비스, 인포시스 등이 출자하여 OpenAI 설립 당시 모금에 서명한 기부금은 도합 10억달러에 달했다고 한다.# 이렇게 2015년 비영리 단체로 시작했다.[8] 한편 머스크와 올트먼은 본업이 있었기 때문에 이들이 연줄을 통해 외연 확장을 노리는 동안 브록만이 풀타임으로 근무하며 일리야 수츠케버와 다리오 아모데이, 안드레 카파시 등 초창기 핵심 멤버에 해당되는 인공지능 분야 전문가 채용 및 전반적인 사내운영을 담당했다.
2018년 2월 Jed McCaleb, 게이브 뉴웰, 리드 호프먼, Michael Seibel, Jaan Tallinn, Ashton Eaton, Brianne Theisen-Eaton 등의 개인 투자가들이 신규 기부를 약속했다.# 반면 일론 머스크는 이사회에서 사임했다.[9][10]
2019년 3월 외부 투자자로부터 최대 100배 수준으로 제한된 수익률을 조건으로 투자를 받으며, 산하에 영리 법인을 신설했다고 밝혔다.# 막대한 클라우드 컴퓨팅 사용료 감당과 새로운 인재 영입을 위해 불가피했던 선택이었다고 한다.[11][12]
2019년 7월 마이크로소프트가 펀딩 라운드에 10억 달러를 투자했다고 밝혔다. 계약의 일환으로 Microsoft Azure의 컴퓨팅 환경을 제공받았으며, Azure AI라는 슈퍼컴퓨터를 공동으로 개발할 예정이라고 한다.#
2021과 2023년에는 마이크로소프트로부터 각각 20억 달러와 100억 달러 규모의 추가 투자를 받았다. 이를 통해 마이크로소프트는 GPT-4를 비롯하여 지적재산권 라이센스와 기타 제품 상용화 독점계약을 얻었다.[13] 세 번의 투자를 통해 마이크로소프트는 OpenAI LLC의 지분 49%를 확보했으나, 사측에서 영향력 행사를 방지하기 위해 이사회에 마이크로소프트 측 인사를 채워 넣을 수 없으며 의결권도 부여하지 않았다. 또한 투자 원금의 약 100배가 될 때까지 OpenAI LLC의 수익의 75%를 배분받지만[14] , OpenAI Inc.의 이사회가 AGI에 도래했다고 판단할 경우 해당 분야에서는 상용화 계약의 효력이 먹히지 않는다. 이로 인해 높은 지분을 보유하고 있음에도 자회사 혹은 관계회사로 분류하기 힘들다.[15]
2023년 4월 세쿼이아캐피탈, 앤드리슨 호로위츠 등의 투자자로부터 최대 290억 달러 기업가치를 평가받으며 3억 달러를 조달했다는 소식이 알려졌다.# 앞선 마이크로소프트의 투자와는 별개의 펀딩이다.
2023년 6월 16일부터 MBUX 인포테인먼트 시스템이 탑재된 메르세데스-벤츠 차량에서 ChatGPT베타 서비스가 시작된다. 우선 미국 한정이며, Azure를 통해 벤츠 보이스 컨트롤과 결합될 예정이다. GM과의 협업 루머도 있다.
2024년 1월 6일 마이크로소프트의 기술, 연구협업, 운영 부문 부사장인 디 템플턴이 투표권 없는 참관인으로 OpenAI 이사진에 합류했다는 소식이 전해졌다.#
2024년 2월 800억 달러의 기업가치를 평가받으며 자금을 조달했다는 소식이 알려졌다.# 바이트댄스와 스페이스X에 이어서 평가액 기준 3위 수준의 유니콘 기업이 되었다.
3월 8일 올트먼을 비롯해서 네 명의 새로운 이사를 선임했다.#
2024년 5월 15일부로 수석과학자인 일리야 수츠케버가 OpenAI 퇴사를 알렸다.# 후임으로는 제이컵 파호츠키 (Jakub Pachocki)가 지명되었다.
2024년 6월 10일 WWDC24에서 Siri의 ChatGPT 전환 기능 지원이 알려지며 Apple과의 협업이 알려졌으며, 자사 블로그를 통해 넥스트도어 전직 CEO인 세라 프라이어와 트위터 수석부사장 출신의 케빈 웨일을 각각 CFO와 CPO로 임명했다는 소식도 알렸다.#
3. 사업[편집]
3.1. 언어모델[편집]
자사 응용 소프트웨어의 기반이 되는 파운데이션 모델이며, 유료 API를 통해 서드파티 기업에도 서비스를 제공하고 플러그인 지원을 통하어 자사 GPT만의 생태계를 만들어 나가고 있다. 즉 오픈AI의 알파이자 오메가인 분야이다. 공급이 한정적인 소수의 컴퓨터 과학자 인력을 채용해야되고 막대한 데이터를 필요로 하기 때문에 클라우드 컴퓨팅 비용이 상당하여 언어 모델을 개발하는 기업은 극히 드물다. 따라서 대부분의 AI 스타트업들은 API를 통해 구글, 오픈AI, 메타 등의 모델을 활용하여 자사 서비스에 탑재하는 방식으로 참여한다. 향후 ChatGPT 이상의 프로그램을 낼 예정은 현재로서는 없으며, 유료 API 기반 생태계 확장에 힘을 쏟겠다고 한다.
3.1.1. GPT 모델[편집]
3.1.1.1. GPT-1[편집]
![파일:나무위키상세내용.png](http://obj-sg.the1.wiki/d/2a/c3/2af8a3cde73220d4d2ce2a2d6cd7ab6096df203a6cf8021431522ae01d6c0ecb.png)
3.1.1.2. GPT-2[편집]
![파일:나무위키상세내용.png](http://obj-kr.the1.wiki/d/2a/c3/2af8a3cde73220d4d2ce2a2d6cd7ab6096df203a6cf8021431522ae01d6c0ecb.png)
3.1.1.3. GPT-3[편집]
![파일:나무위키상세내용.png](http://obj-sg.the1.wiki/d/2a/c3/2af8a3cde73220d4d2ce2a2d6cd7ab6096df203a6cf8021431522ae01d6c0ecb.png)
3.1.1.4. GPT-4[편집]
![파일:나무위키상세내용.png](http://obj-sg.the1.wiki/d/2a/c3/2af8a3cde73220d4d2ce2a2d6cd7ab6096df203a6cf8021431522ae01d6c0ecb.png)
3.1.1.5. GPT-5[편집]
![파일:나무위키상세내용.png](http://obj-sg.the1.wiki/d/2a/c3/2af8a3cde73220d4d2ce2a2d6cd7ab6096df203a6cf8021431522ae01d6c0ecb.png)
3.1.1.6. gpt2[편집]
![파일:나무위키상세내용.png](http://obj-sg.the1.wiki/d/2a/c3/2af8a3cde73220d4d2ce2a2d6cd7ab6096df203a6cf8021431522ae01d6c0ecb.png)
3.1.2. Whisper[편집]
![파일:나무위키상세내용.png](http://obj-sg.the1.wiki/d/2a/c3/2af8a3cde73220d4d2ce2a2d6cd7ab6096df203a6cf8021431522ae01d6c0ecb.png)
3.1.3. Codex[편집]
API 개발을 자동화해주는 인공지능이다. 2021년 8월 11일 공개된 업그레이드를 통해, 영어로 된 자연어 문장이나 이미지 데이터 등을 입력함으로써 손쉽게 프로그램을 코딩할 수 있게 되었다. GPT-3을 기반으로 하고 있다. GitHub가 공개한 코파일럿이 Codex를 기반으로 하고있다.
3.1.4. 프로메테우스[편집]
AI SEO에 특화된 언어 모델. 2023년 2월 7일 마이크로스프트 인공지능 언론 발표회에서 최초 공개되었다. Microsoft Bing과 Microsoft Edge에 적용된다. GPT-4에서 검색 기능을 특화시켜 만든 모델이다.
3.2. 응용 소프트웨어[편집]
언어모델을 기반으로 한다.
3.2.1. ChatGPT: 텍스트 인공지능[편집]
![파일:나무위키상세내용.png](http://obj-sg.the1.wiki/d/2a/c3/2af8a3cde73220d4d2ce2a2d6cd7ab6096df203a6cf8021431522ae01d6c0ecb.png)
3.2.2. DALL·E: 그림 생성 인공지능[편집]
![파일:나무위키상세내용.png](http://obj-sg.the1.wiki/d/2a/c3/2af8a3cde73220d4d2ce2a2d6cd7ab6096df203a6cf8021431522ae01d6c0ecb.png)
3.2.3. Voice Engine: 음성 생성 인공지능[편집]
![파일:나무위키상세내용.png](http://obj-sg.the1.wiki/d/2a/c3/2af8a3cde73220d4d2ce2a2d6cd7ab6096df203a6cf8021431522ae01d6c0ecb.png)
3.2.4. Sora: 영상 생성 인공지능[편집]
![파일:나무위키상세내용.png](http://obj-kr.the1.wiki/d/2a/c3/2af8a3cde73220d4d2ce2a2d6cd7ab6096df203a6cf8021431522ae01d6c0ecb.png)
3.2.5. OpenAI(인공지능)[편집]
![파일:나무위키상세내용.png](http://obj-kr.the1.wiki/d/2a/c3/2af8a3cde73220d4d2ce2a2d6cd7ab6096df203a6cf8021431522ae01d6c0ecb.png)
3.3. GPT 스토어[편집]
2023년 11월에 열린 첫 번째 데브데이 컨퍼런스에서 출시를 예고했다.# 개인화된 GPT 에이전트를 거래할 수 있는데, 스토어에 올라오는 GPT 중에서 인기와 활용도가 높은 GPT들에겐 일부 수익 공유를 하겠다고 언급했다. 모바일 생태계를 넓힌 App Store와 Play Store처럼 인공지능 소프트웨어 유통 창구를 직접 담당하겠다는 뜻이다.
기존에는 ChatGPT의 성공 이후 생성형 인공지능 분야에서 여러 유니콘 기업들이 우후죽순 쏟아졌으나, 투입되는 비용 대비 서비스의 수익성이 매우 빈약하기 때문에 외부 투자금 없이는 재정적인 자립이 힘들었다는 단점이 있었다. GPT 스토어 출시 이후에는 코딩 없이 자연어만으로도 맞춤형 서비스를 구축하는 게 가능해졌기 때문에 대중성이 보다 높아질 것으로 예상될 뿐더러 개발자의 수익 창출 루트가 새롭게 생긴 것이다.
하지만 올트먼 축출 사태의 여파 때문인지 출시를 연기한 이후 2024년 1월 10일 출시를 발표했다.
4. 지배구조[편집]
지분율에 상관 없이 사외이사[16] 가 50% 이상으로 채워진 비영리 단체 OpenAI Inc.의 이사회에 전권이 부여된 구조다. 마이크로소프트의 경우에도 이사회가 AGI에 도달했다고 판단한 경우, 해당 분야에서는 기존에 맺은 라이센스 등 상용 계약의 효력이 사라질 정도다.[17] 자사 홈페이지에서도 투자자의 이익보다 안전한 방식의 AGI 구현이 우선 순위에 있다는 점을 명시하고 있다.#
이러한 구조 속에 비영리 단체 OpenAI Inc.는 수익률이 제한된 영리기업인 OpenAI Global LLC를 지배하고 있다.
마이크로소프트 외에 코슬라벤처스, 리드 호프먼, 세콰이어캐피탈 등이 주요 투자자로 참여하고 있다.
5. 이사회[편집]
6. 로고[편집]
7. 사건 및 논란[편집]
7.1. 경영진 축출 사태[편집]
2023년 11월 17일 공동창업자인 샘 올트먼이 이사회에 의해 대표이사 직책과 이사회에서 해고당했다. 그의 자리는 기존 CTO 미라 무라티가 임시직으로 대체하게 되었다.# OpenAI는 그가 의사소통을 거부하고 책임감 없는 모습을 보였다고 주장하며 이례적으로 불명예스러운 퇴진이 되었다.[31] 이후 그렉 브록만의 X 포스트를 통해 구체적인 전말이 밝혀졌다. 수석과학자인 일리야 수츠케버를 비롯한 이사회 주도로 해고 당일 화상회의를 통해 일방적인 통보를 받았던 것이다.# 안정성, 영리성 관련 문제와 관련된 다툼이 있었다고 한다.[32]
그들을 따라 선임 연구원 세 명이 퇴직을 신청했으며 사내 임직원들은 물론 투자자들의 극심한 반발로 인해 주말동안 협상에 들어가며 올트먼이 다시 복귀할 가능성이 생겼으나, 2023년 11월 20일 사티아 나델라의 포스트를 통해 올트먼은 마이크로소프트의 신설 인공지능 리서치팀에 합류했음이 밝혀졌다. 함께 퇴사한 그렉 브록만과 일부 OpenAI 연구원도 함께 한다. 해당 건과는 별개로 마이크로소프트와의 협력 관계는 유지된다.# 또한 무라티 대신 새로운 임시 CEO는 트위치 공동창업자 에밋 쉬어로 결정되었다.[33]
하지만 OpenAI는 해당 건의 처리 방식으로 인해 투자자들을 비롯, 업계 관계자들의 신뢰를 잃었으며[34] 나델라의 포스트가 올라온지 얼마 되지 않아 'OpenAI is nothing without its people'이라는 문구를 임직원들이 공유함과 동시에 쿠데타를 주도한 일리야 수츠케버가 반성의 내용이 담긴 포스트를 올렸다.#[35] 이후 임직원 770명 중 700명이 서명한 탄원서가 올라왔다. 갑작스러운 해고로 인해 회사가 위기[36] 를 맞게 되었으며, 그들의 복귀를 주장하는 내용이 담겼다. 또한 현 이사회가 사임하지 않을 경우 퇴사를 한 뒤 마이크로소프트의 신설된 팀으로 이적하겠다는 협박성 내용도 존재한다.[37] 해당 탄원서에는 수츠케버를 비롯한 임원진 전체가 서명했다.##[38][39]
2023년 11월 21일 이사회가 Anthropic과 합병하기 위해 접촉했다는 보도가 올라왔다. Anthropic의 창업자 세 명 전원이 올트먼 체제의 OpenAI가 상업화되는 행보로 인해 퇴사 후 새로 창업한 기업이기 때문에 막연하게 가능성이 없는 것은 아니다. 현재 OpenAI 이사회의 성향과 매우 비슷하기 때문이다.[40]
그리고 축출 5일만인 11월 22일에 애덤 디엔젤로로 대표되는 기존 이사회와 에밋 쉬어 임시 CEO가 협상에 성공하여 올트먼과 브록만의 복귀가 확정되고 새로운 이사회가 꾸려지면서 사건이 일단락되었다.# 이번 사건을 통해 올트먼에 대한 사내 임직원들의 열렬한 지지가 확인되었으며, 아무리 독립적인 이사회와 비영리기업 구조일지라도 대형 투자를 유치한 이상 설립 취지만을 고집할 수는 없다는 점이 드러났다. 또한 장기적으로는 마이크로소프트의 영향력이 더욱 높아질 것으로 보인다.[41][42] 향후 의결권이 없는 MS 측 참관인을 이사회에 포함시킬 것이라고 한다.#
2023년 12월 8일 마이크로소프트 대변인 프랭크 쇼는 자사가 단순 수익 배분을 통해 수익을 얻을 뿐, OpenAI에 대한 어떠한 지배권도 행사하지 않는다고 밝히면서 반독점에 대한 우려를 일축시켰다.#
2024년 3월 8일 기자회견을 통해 올트먼 축출 사태는 그와 이사회 간의 신뢰 상실의 결과였다고 최종 결론을 지었다. 즉, 안정성이나 재정 문제가 아니었다는 뜻이다. 해당 결론은 윌머헤일이라는 로펌의 사내 조사를 통해 이루어졌다.
하지만 동년도 5월, 당시 이사였던 헬렌 토너는 TED의 AI 쇼 팟캐스트에 출연하여 사내 조사 결론과는 사뭇 다른 의견을 피력했다. 경영진이 이사진에게 사전 공지 없이 ChatGPT를 출시했으며, 올트먼이 스타트업 펀드를 보유하고 있다는 점[43] 도 알리지 않았다고 한다. 그 외에도 경영진의 독단적인 의사결정 사례를 언급했다.# 뿐만 아니라 일리야 수츠케버가 퇴사 이후 재취업 대신 상용화 제품을 출시하지 않는 방식으로 안전한 초지능 구축을 목표로 하는 SSI라는 업체를 설립하면서, 사내 조사와는 달리 누가 봐도 안정성을 절대 중요시하는 일리야와의 안정성 관련 갈등이 심각했을 것이라는 점을 유추해볼 수 있다.
7.2. 머스크와의 소송[편집]
2024년 2월 29일 설립 당시 공익적인 취지를 위반하고 마이크로소프트의 사익을 위한 폐쇄적인 기업으로 변모했다는 명목으로 일론 머스크에 의해 샌프란시스코 법원에서 고발당했다. 이에 OpenAI 측은 3월 5일 자사 블로그를 통해, 이를 정면 반박하는 글을 올렸다.#[44]
2024년 6월 11일 머스크가 소송을 취하해달라는 요청을 했다는 소식이 알려졌다.#
7.3. 퇴사 계약 관련[편집]
2024년 5월 일리야 수츠케버 퇴사 소식이 알려진 이후 X를 통해 얀 레이케[45] , 인공지능 정책 및 통제 연구원인 컬렌 오키프[46] 와 다니엘 코코타일로[47] 등의 임직원들이 대거 퇴사를 결심했다는 소식이 알려진 바 있다. 또한 퇴사 과정에서 직원들에게 NDA 및 평생에 걸쳐 고용주(회사)를 비방하는 것을 금지하는 등의 엄격한 퇴사 계약서를 체결하게 했다는 소식이 알려졌다. 관련 문서 서명을 거부하거나 퇴사 이후 해당 내용을 위반할 경우, 회사에서 근무하는 동안 받았던 주식보상 등을 잃게[48] 된다고 한다. 현직 직원과 전직 직원의 주식보상 현금화 한도도 차별했다.[49] 또한 샘 올트먼의 잦은 외부활동과 소통 부족, 안전 문제 등으로 인해 퇴사를 결심했다는 직원이 꽤나 존재했다.
이후 올트먼이 X를 통해 퇴사 계약 관련 문서에는 지분 취소에 관련된 조항이 있지만, 실제로 이를 이행한 적은 없으며, 현재는 표준 퇴사 서류를 수정하는 중이라는 의견을 내놓으면서 해당 이슈는 기정사실화되었다.
7.4. 안정성 관련[편집]
경영진 해임 후 며칠만에 복귀 등 일련의 해프닝은 OpenAI의 수익성과 대외 투자자 유치 등 사업성을 더 추구하는 샘 올트먼 파벌과 그를 지지하는 대다수 직원들, 그리고 반대로 AI가 어느 단계를 넘으면 인간이 더이상 제어할 수 없으므로 그 전에 통제 안전장치를 먼저 확보해야하며 인류를 위해 AI를 사용해야 한다는 일리야 수츠케버와 얀 라이케 등 안정성 추구 파벌의 갈등 때문이라는 의혹이 제기되고 있다. 실제로 최초 OpenAI의 설립 목적은 "안전하고 공개적인" 인공지능의 개발을 추구하는 것이었지만, 어느 순간부터 AI가 돈을 벌어다주는 영리 수익사업 회사로 바뀌는 느낌이다.
경영진 해임사태의 최종 조사결과는 안정성 문제가 아닌 경영진과 이사회 간의 신뢰상실 문제였다고 발표는 했지만, 실제로 경영진 해임을 주동했던 일리야 수츠케버와 얀 라이케가 결국 2024년 5월15일 퇴사한 후, OpenAI 측은 바로 이틀 뒤 5월17일에 수츠케버가 이끌던 슈퍼얼라인먼트(Superalignment) 팀을 해체하고, 존 슐먼이 이끄는 다른 부서와 통폐합시켰다.
해당 팀은 지난 2023년 7월 수츠케버를 중심으로 사내 컴퓨팅 자원의 20%를 할당받으며 신설된 바 있다. 당시의 OpenAI 게시물을 보면 아래와 같이 포부를 밝히고 있다.
"현재로서는 잠재적으로 초지능 AI를 조종하거나 제어하고, 그것이 제멋대로 행동하지 않도록 방지하는 해결책이 없다. 인간 피드백에서 강화 학습과 같은 현재의 AI 정렬 기술은 인간이 AI를 감독할 수 있는 능력에 의존한다. 그러나 인간은 우리보다 훨씬 똑똑한 AI 시스템을 신뢰할 수 없게 감독할 수 없으며, 따라서 현재의 정렬 기술은 초지능에 맞추지 못할 것이다. 우리는 새로운 과학적 및 기술적 돌파구가 필요하다."
공동으로 팀을 이끌던 얀 라이케는 지난 몇 달 동안 컴퓨팅 자원을 확보하는 데 어려움을 겪는 등 회사의 우선순위에 대한 의견 차이로 인해 퇴사를 결심했다고 밝혔다.[50] 그 외에도 안전성에 관해 비슷한 의견을 내는 다니엘 코코탈로, 크레첸 크루거 등 다수의 직원들이 퇴사했다.
슈퍼얼라인먼트 팀은 AI의 초지능(Super-Intelligence) AGI를 사전에 통제하기 위한 안전장치를 연구하는 팀이었다. 부서 이름에서 뜻하는 Alignment 정렬의 뜻은 인간의 의도를 AI 가 이해할 수 있도록 동작 방향성을 정렬 일치시키는 것을 말한다.
아래는 AI Alignment가 무슨 뜻인지? 질문에 대한 ChatGPT의 답변이다.
AI Alignment는 인공 지능이 사람의 목표와 가치에 부합하도록 보장하는 것을 의미합니다. 기본적으로, 인공 지능 시스템은 우리가 의도한 바에 따라 행동해야 합니다. 그러나 이것은 종종 복잡하고 어려운 문제입니다. 예를 들어, 우리가 원하는 목표를 충실히 수행하거나 예상치 못한 방식으로 해석하는 사례가 있을 수 있습니다. AI Alignment는 이러한 위험을 최소화하고, 인간의 목표와 가치를 올바르게 이해하고 따르도록 보장하기 위해 연구 및 기술적 노력이 진행되고 있습니다.
AI Alignment에는 몇 가지 주요 항목이 있습니다:
* 인간의 의도 이해: 이것은 인공 지능이 인간의 의도와 목표를 정확히 이해하고 그에 맞게 행동하는 것을 보장하는 것입니다. 이것은 언어 이해, 의사 결정 프로세스, 윤리적 고려 등을 포함합니다.
* 안전성 보장: 인공 지능이 예상치 못한 상황에서도 안전하게 작동할 수 있도록 보장하는 것이 중요합니다. 이는 예를 들어 AI 시스템이 자동차 운전 중에 예상치 못한 상황에 대처할 수 있도록 하는 것과 같은 것입니다.
* 의도치 않은 부작용 방지: 종종 인공 지능 시스템이 우리가 원하는 것은 맞지만, 예상치 못한 부작용이 발생할 수 있습니다. AI Alignment는 이러한 부작용을 최소화하기 위해 노력합니다.
* 윤리적 고려: 인공 지능 시스템이 인간의 가치와 윤리적 원칙을 준수하도록 보장하는 것이 중요합니다. 이것은 특정 그룹이나 개인을 불이익하게 하는 행동을 피하고, 인간의 안전과 웰빙을 최우선으로 고려하는 것을 의미합니다.
이러한 항목들은 AI Alignment를 위한 연구와 기술적 개발의 주요 영역입니다.
샘 올트먼과 그렉 브록만이 복귀하면서 과거보다 더욱 강화된 전권을 쥐게 되고 일리야 수츠케버의 퇴사와 수퍼얼라인먼트 팀을 해체시키는 과정을 겪으면서, 다시 한 번 안정성 관련 이슈가 화두로 떠오른 상황이다. MIT 교수 Yossi sheffi 기고문, OpenAI 사태의 교훈, 인공지능의 분열적이고 양극화된 특성의 위험성
세간의 안정성 이슈 제기를 의식한 듯 OpenAI 이사회는 기존 팀을 해체한지 얼마되지 않아 2024년5월28일 새로운 "안전 및 보안위원회"를 구성한다는 발표를 했다. CNBC 뉴스
다만, 이 위원회 멤버들이 외부 인원 없이 전부 내부 인사들로만 구성되었다는 점에서 비판을 받고 있다. 위원회 멤버는 샘 올트먼, 브렛 테일러, 아담 디앤젤로, 니콜 셀리그만, 최고 과학자인 야쿱 파초키, 준비 팀을 이끄는 알렉산더 매드리, 안전 시스템 책임자인 릴리안 웽, 보안 책임자인 매트 나이트, 그리고 정렬 과학 책임자인 존 슐만이 포함된다.
7.5. 스칼렛 요한슨 목소리 무단 사용[편집]
2023년 11월 ChatGPT에 음성 기능이 추가되었는데, 이 중 SKY 모드의 음성이 스칼렛 요한슨의 목소리와 흡사해 화제가 되기도 했다. 다만 이 때까지는 비슷한 목소리로 잠깐 화제가 된 수준이었는데, 무엇보다 음성 기능의 반응 속도가 느렸기에 광범위하게 대중화될 만큼의 성능은 아니었던지라 이스터 에그쯤으로 여기는 반응이 대다수였다.
2024년 5월 OpenAI의 GPT-4o 발표 이후 논란이 점화되기 시작했다. 일단 새로운 음성 기능이 기존의 TTS(Text to Speech)에서 진보한 멀티모달 모델 기반이었기에 반응 속도가 극적으로 빨라져 음성 채팅 기능이 뜨거운 호응을 일으키기에 충분했다. 특히, 데모 영상의 인공지능 목소리가 영화 그녀(Her)의 인공지능 사만다의 목소리를 연상시키게 할 정도로 흡사할 뿐만 아니라 샘 올트먼 또한 발표 직후 자신의 SNS인 X에 ‘her’라고 포스팅 했을 정도로 영화와 연결지으려는 홍보의 의도성이 명확해 보였다.
이후 2024년 5월 20일 OpenAI는 공지를 내고 "우리는 챗GPT, 특히 (서비스 내 음성비서인) 스카이(Sky)의 목소리를 어떻게 선택했는지에 대해 많은 질문을 받았다"며 "문제를 해결하는 동안 스카이 사용을 일시 중지할 것"이라고 밝혔다.
이날 요한슨은 성명을 통해 샘 올트먼이 지난 9월 챗GPT 4.0 시스템의 음성을 담당해달라고 제안했지만 '개인적 이유'로 거절했음을 분명히 했다. 챗GPT 4.0 데모가 공개되기 불과 이틀 전에야 올트먼이 요한슨의 에이전트를 통해 재고해달라고 요청했는데, "논의가 이뤄지기도 전에 이미 (요한슨과 흡사한 목소리의) 시스템이 만들어졌다"는 지적이다. 이에 요한슨은 법률 변호사를 고용했고, 변호사가 올트먼에게 두 통의 공식 서한을 보낸 후 오픈AI가 스카이 음성을 삭제하는 데 마지못해 동의했다고 밝혔다. #
그러나 후에 스카이의 성우가 밝혀지면서 해당 목소리가 스칼렛 요한슨의 목소리가 아닌 것으로 드러났다. 성우의 에이전트에 따르면 해당 성우는 OpenAI가 스칼렛 요한슨과 접촉하기 6개월 전에 캐스팅 되었으며, 스칼렛 요한슨이나 영화 her에 대한 언급은 전혀 듣지 못했다고 말했다. 성우 본인 역시 자연스러운 자신의 목소리일 뿐이며 누군가를 따라하지 않았다고 말했다. 해당 성우를 캐스팅했던 조앤 장도 그 성우의 목소리가 스칼렛 요한슨과 닮았다고 생각해 본 적 없다고 답했다. #
8. 기타[편집]
- 한국인 직원이 있었다고 한다. 2024년 현재는 다른 한국인 Research Scientist가 있는 것으로 알려져 있다. KSA-KAIST 출신이라고 한다.
- 2023년 1월 허위 정보로 인한 언어 모델의 오용 가능성 예측 및 위험 감소 방법에 대한 기사를 OpenAI 블로그에서 공개했다. AI 사용자의 오용 위험성과 사회적 파장에 대한 완화 전략[51] 등이 담겨있다. 그러나 '가이드라인'일 뿐 강제성은 없다.#
- 한국의 영어 회화 서비스 스픽이 ChatGPT 개발사 OpenAI와 기술적 파트너십을 맺었다. OpenAI가 직접 발표한 WhisperAPI 활용 사례로 소개되기도 했다.##
- 생성형 인공지능/언어모델 업체 중에서 OpenAI 다음으로 기업 가치가 높은 Anthropic이라는 업체는 창업자 전원이 OpenAI 출신이다. 마이크로소프트에게 투자를 받으며 영리화 과정을 거치면서 큰 반감을 느끼고 창업했다고 한다.
- 2023년 6월과 9월, 11월에 자사 GPT 최적화를 위한 전자기기를 직접 제작하기 위한 프로젝트를 꾸리고 있다는 루머가 현지 언론들을 통해 일제히 보도되었다. 이를 위해 애플에서 인력들을 영입하고 있으며, 소프트뱅크 그룹의 펀딩, 조너선 아이브가 운영하는 러브프롬의 디자인까지 협업 방식으로 추진되고 있다고 한다. 하드웨어와 더불어 새로운 운영체제와 직관적인 UI를 목표로 하고 있다고 한다. 애플 디자인 총괄자 탕 탄이 러브프롬으로 이직했으며, 산업디자인 책임자 아오야기 쇼타도 OpenAI로 이직 할 예정이다.