🧐 2024년, 인공지능은 어떤 흐름으로 흘러가게 될까요?

인공지능 분야의 대표적인 오픈소스 플랫폼 회사 허깅페이스 (HuggingFace) 의 공동 창업자가 6가지 지점으로 2024년을 예측했습니다.

1. 적어도 10개의 새로운 유니콘 기업들이 등장 예상 (SOTA 오픈소스 foundation model을 굽는 기업들)

   1. OpenAI, Mistral, https://01.ai/, https://deci.ai/ 처럼 규모는 작지만 뾰족한 목표를 가진 팀들이 나올 것이다.

   2. 인공지능이 아닌 스타트업들은 VC 투자 받기가 어려워질 것

   3. 새로운 SOTA 모델이 나올때마다 거대 모델 훈련에 대한 노하우가 빠르게 업계 내에 퍼지며 새로운 벤쳐들이 형성

   4. 업계 내의 팀들이 술렁술렁 빠르게 움직이면서 라이센스와 같은 규제에 대한 이해도 훨씬 높아짐

2. 기존의 AI 유니콘들에게는 현실 점검 시기 :

   1. 보편적으로 조금 더 AI 적용이 이루어지며 더 이상 "소수의 것" 이 아니게 되었고, 기존 AI 유니콘 기업들은 사업 모델을 이에 맞게 변형해야 할 것

3. 모델 품질 평가의 어려움 더 높아지나 :

   1. 너무 많은 모델들이 쏟아져 나오기에 유저들은 "어디가 제일 좋은지" 인지하기 어려워진다. 새로운 팀들은 리더보드에 모델을 올릴 때 정정당당함을 입증하는 것이 중요!

4. 학계의 화려한 컴백 :

   1. 산업계로 조금 쏠려있던 인공지능의 마도가 학계로 조금 다시 돌아갈 것

   2. 많은 사기업들에서 자신의 실험 결과나 데이터를 숨기기 시작하면서 학계에서 상대적으로 더 많은 영향력있는 연구를 내기 시작함

5. 데이터 라벨링 (어노테이션) 회사들에게 위험한 시기 :

   1. 기존의 인간 데이터 라벨러보다는 사용하는대로 지불하는 API들이 보편화될 것이고, 이로 인해 복잡하고 비싼 데이터 라벨러 계약은 점점 경쟁력이 낮아질 것

6. 합성 데이터의 부상 :

   1. 모델 학습을 하기 위한 인간 데이터가 부족해지는 현상이 생기며 좋은 품질의 합성 데이터를 만드는 것이 핵심!

✨ 저는 개인적으로 이 중에서는 5, 6번이 흥미로웠는데요,

더 이상 직접 인간이 만든 텍스트 데이터만으로는 모델 성능 향상이 어렵다는 내용입니다.

Q. 아니, 수많은 텍스트 데이터가 있는데 어떻게 데이터를 다 쓸 수 있지?

A. "Running out of data" 가 가능할지도 몰랐는데 이미 그렇게 되고 있습니다! 사실 여기서의 data는 "합법적으로 사용 가능한 data" 이기 때문에, 모든 저작권과 개인정보보호 이슈 없이 사용 가능한 데이터는 이제 얼추 모델들이 이미 본 데이터라는 소리입니다.

🚨 이제 더더욱 모델 학습을 위해 인공적으로 만든 데이터들이 모델 성능 향상에 절대적인 역할을 할 것이라는 말을 남기며 글을 닫아봅니다.

👉 출처는 이곳입니다

https://twitter.com/Thom_Wolf/status/1736767816588517656