[생성형 AI(Generative AI), 인간의 창작 영역을 넘본다! (50)] ‘엔트로픽(Anthropic)’, OpenAI와 맞짱 뜰 준비된 대표 후보? (上)
최봉 산업경제 전문기자 입력 : 2024.04.25 00:30 ㅣ 수정 : 2024.04.25 00:30
[기사요약] ‘엔트로픽(Anthropic)’, ‘클로드(Claude)’라는 또다른 고성능 챗봇 출시하면서 주목 받아.. OpenAI 출신들이 창업한 스타트업, AI 시스템의 안전성과 신뢰성 연구 중시 기술 개발에 ‘Constitutional AI(CAI)’ 접근 방식, AI가 마땅히 따라야 할 윤리원칙 정해 모델 학습 ‘클로드(Claude)’ 챗봇, ‘CAI 정신’ 가이드라인으로 해서 만들어..
사람들은 시, 소설, 보고서 등 글쓰기, 그림 그리기, 알고리즘 코딩 등 창작의 세계가 그동안 인간에게만 허락된 별도의 영역이라 알고 있었다. 그런데 AI(인공지능)의 발전과 함께 이제는 진화한 AI가 스스로 창작의 영역을 넘보는 시대가 되었다. 생성형 AI(Generative AI)의 등장은 인간에게 어떤 의미가 있으며 우리의 미래에 어떤 영향을 미칠지 가늠하기 쉽지 않지만, 생성형 AI는 이미 여러 분야에서 현실로 나타나 적용되고 있다. 우리에게 성큼 다가온 생성형 AI의 시장현황, 다양한 이슈와 관심 사항 등을 살펴보기로 하자. <편집자 주>
[출처=nasdaq]
[뉴스투데이=최봉 산업경제 전문기자] 대표적인 고급 AI 기술인 챗봇(chatbot 또는 AI assistant) 분야의 경쟁이 치열하다.
이미 절대강자인 오픈AI(OpenAI)의 ChatGPT를 필두로 거대기술기업, 스타트업 등의 많은 플레이어가 시장을 차지하기 위해 경쟁하고 있다.
2023년 초 ‘클로드(Claude)’라는 또다른 고성능 챗봇이 출시되었다. 클로드를 만든 기업은 ‘엔트로픽(Anthropic)’이라는 다소 생소한 스타트업이다.
이름은 덜 알려져 있지만 엔트로픽의 역량은 이미 전문가들도 인정할 정도이며, 특히 최근 출시한 클로드 버전(Claude 3)은 ChatGPT의 능력을 뛰어넘었다는 평가를 받는다.
[출처=tech]
• ‘엔트로픽(Anthropic)’, OpenAI 출신들이 창업한 떠오르는 스타트업
엔트로픽은 2021년 다리오 아모데이(Dario Amodei)와 다니엘라 아모데이(Daniela Amodei) 남매가 설립한 스타트업으로 이들을 포함한 7명의 창업자 모두 OpenAI 출신이다.
이들은 인공지능 시스템의 안전성과 신뢰성을 연구하는 것을 중시했는데, 2019년 OpenAI가 마이크로소프트(MS)로부터 획기적인 10억달러 투자를 받은 후 그룹의 발전방향에 대한 견해 차이 때문에 OpenAI를 떠났다.
따라서 이들이 엔트로픽을 창업하면서 추구하는 인공지능 목표는 뚜렷하다. 공익 기업으로서 인공지능을 연구하고, 대중에게 안전하고 신뢰할 수 있는 모델을 전개하기 위해 이 연구를 활용한다는 것이다.
엔트로픽이 인류(humanity)에게 긍정적인 영향을 미치는 일을 추구한다는 것은 마치 일론 머스크가 생성형 AI ‘그록(Grok)’ 공개 과정에서 “은하수를 여행하는 히치하이커를 위한 안내서(The Hitchhiker’s Guide to the Galaxy)”로부터 많은 영감을 얻었다고 언급하면서 ‘우주의 본질 이해’, ‘진실’, ‘인류’ 등의 키워드를 강조했던 것을 연상시킨다(필자의 이 시리즈 34편(2023.11.9.) 참고).
엔트로픽 데이터팀의 한 직원 [출처=New York Times]
• ‘Constitutional AI(CAI)’ 접근 방식, 안전하고 윤리적인 AI 모델 추구
엔트로픽은 AI 모델이 보다 안전하고 정직하며 유용한 방식으로 반응하도록 보장하는 프레임워크를 활용하여 기술 개발에 ‘Constitutional AI(CAI)’ 접근 방식을 취하고 있다.
Constitution의 사전적 의미는 헌법, 규약 등으로 해석할 수 있는데, CAI 접근 방식이라 함은 인간이 마땅히 따라야 할 윤리적인 규칙들을 ‘헌법’으로 제정해 놓았듯이, AI가 마땅히 따라야 할 윤리원칙을 정해 학습시킨다는 것이다.
이 프레임워크 내에서 인간은 ‘constitution’으로 알려진 AI 시스템의 원하는 행태를 설명하는 일련의 규칙을 제공한다. AI 시스템은 생성된 결과물을 평가한 후 AI 모델을 규약에 더 잘 맞게 조정한다. 자체 강화 프로세스는 피해를 방지하고 선호도를 존중하며 진정한 정보를 제공하는 것을 목표로 한다.
엔트로픽이 활용하는 자체 강화 프로세스는 AI 피드백 기반 강화학습(Reinforcement Learning from AI Feedback, RLAIF)이라고 한다.
사람이 일일이 레이블을 달아야 했던 기존의 인간 피드백 기반 강화학습(RLHF)에 비해 인간의 개입을 최소화하면서 학습에 들어가는 노동력을 대폭 줄일 수 있다.
참고로 ChatGPT는 RLHF 방식으로 훈련된 모델이다.
[출처=thetechgazette]
• ‘클로드(Claude)’, ‘CAI 정신’ 가이드라인으로 만들어진 챗봇
‘클로드(Claude)’는 이 같은 ‘CAI 정신’을 가이드라인으로 해서 만들어진 챗봇이다.
엔트로픽은 자신들의 AI 언어 모델을 ‘클로드’라고 이름 지었는데, 이것은 어떤 직원에게 물어보느냐에 따라, 20세기 수학자 클로드 섀넌(Claude Shannon)에 대한 괴짜스러운 경의를 표하거나 다른 기술 회사가 AI assistant에 붙인 여성 중심의 이름(Alexa, Siri, Cortana)과 균형을 맞추기 위해 친근하고 남성적인 이름을 붙였다고 한다(New York Times, 2023.7.11).
클로드는 언어 모델 Claude 1.3을 기반으로 2023년 3월에 처음 세상에 나왔다. 이후 Claude 2는 2023년 7월에, Claude 3는 2024년 3월에 각각 출시되었다.
엔트로픽의 잠재력, 클로드 챗봇의 뛰어난 역량 등 관련 자세한 내용은 다음 편에서 소개하겠다.
