[1218]모두에게 전하는 모두연 AI뉴스!

• DeepMind, LLM의 거짓말을 잡아내는 'FACTS' 개발!

DeepMind는 대규모 언어 모델(LLM)의 사실성을 평가하기 위한 새로운 벤치마크인 FACTS(Factuality-Aware Cross-Task Validation System)를 개발했습니다. LLM은 훈련 데이터에 포함된 정보를 학습하여 텍스트를 생성하지만, 생성된 텍스트가 사실인지 여부를 판단하는 것은 어렵습니다. FACTS는 LLM이 생성한 텍스트와 실제 사실 간의 일관성을 검증하여 이러한 한계를 극복하고자 합니다. FACTS는 다양한 출처에서 수집된 사실 정보를 기반으로 질문-답변 쌍을 생성하고, 이를 LLM에 질문하여 답변의 정확도를 평가합니다. 이를 통해 LLM의 사실성 평가 정확도를 높이고, 모델의 신뢰성을 향상시키는 데 기여할 것으로 기대됩니다. 또한 FACTS는 LLM 개발자가 모델의 약점을 파악하고 개선하는 데 도움이 되는 유용한 도구로 활용될 수 있습니다. 궁극적으로 FACTS는 LLM 기술 발전을 촉진하고, 사용자에게 더 신뢰할 수 있는 정보를 제공하는 데 기여할 것으로 기대됩니다.

https://deepmind.google/discover/blog/facts-grounding-a-new-benchmark-for-evaluating-the-factuality-of-large-language-models/

• AI의 잊혀질 권리, '머신 언러닝'의 법적 딜레마

이 논문은 생성형 AI 모델의 머신 언러닝 기술과 관련된 법적, 정책적 함의를 분석합니다. 언러닝은 모델에서 특정 정보의 영향을 제거하거나 출력을 억제하는 기술입니다. 논문에서는 개인 정보 보호, 저작권, 안전 분야에서 언러닝 적용 시 발생할 수 있는 문제점과 과제를 다룹니다. 특히, 언러닝이 특정 데이터의 모델 학습 및 출력에 미치는 영향을 완전히 제거하지 못할 수 있으며, 법적 요구 사항을 충족하는 데 어려움이 있음을 지적합니다. 또한, 언러닝이 모델의 유용성을 저해하지 않으면서 원하는 결과를 달성할 수 있도록 신중한 접근 방식이 필요함을 강조합니다.

https://deepmind.google/research/publications/101479/

[아이펠 12기] 2024 마지막 개강
AI 입문부터 활용까지! 코어과정 & 논문으로 완성하는 리서치과정
https://bit.ly/40T8YFx
기술은 기본, 지표 중심 프로젝트를 완성하는 데이터 분석가 과정
https://bit.ly/4g1gvGk