Do LLMs trust AI regulation? Emerging behaviour of game-theoretic LLM agents
arXiv.org
[0414]모두에게 전하는 모두연 AI뉴스!
LLM 에이전트는 비관적? 진화 게임 이론으로 본 AI 규제 하 상호작용 분석
이 논문은 진화 게임 이론(EGT)과 대형 언어 모델(LLM) 에이전트를 결합하여 AI 개발자, 규제 기관, 사용자 간의 전략적 상호작용과 AI 규제 효과를 분석합니다. LLM 에이전트(GPT-4o, Mistral Large)를 게임 플레이어로 사용하여 다양한 규제 시나리오(예: 조건부 사용자 신뢰, 반복 게임, 에이전트 성격 부여) 하에서의 행동 변화를 탐구했습니다. 연구 결과, LLM 에이전트는 순수 게임 이론 예측보다 더 비관적(불신, 비협조) 경향을 보였으며, 사용자의 조건부 신뢰가 오히려 협력을 저해할 수 있음을 발견했습니다. 또한, 사용된 LLM에 따라 결과가 달라져 AI 규제 모델링 및 예측 시 LLM 선택의 중요성을 시사합니다.
https://arxiv.org/abs/2504.08640
초당 4~7 프레임 생성! MineWorld, 마인크래프트 실시간 상호작용 시대를 열다.
본 논문은 마인크래프트 환경을 위한 실시간 상호작용 오픈소스 월드 모델 'MineWorld'를 제안합니다. 이 모델은 시각-행동 자기회귀 트랜스포머를 기반으로 하며, 게임 장면과 해당 행동을 토큰화하여 번갈아 입력받고 다음 장면을 예측하도록 학습됩니다. 핵심 기술인 새로운 병렬 디코딩 알고리즘은 공간적 중복성을 활용하여 추론 속도를 높여 초당 4~7 프레임 생성을 가능하게 함으로써 실시간 상호작용을 구현합니다. 또한, 생성된 결과가 입력된 행동 지시를 얼마나 잘 따르는지 평가하는 새로운 제어 가능성 지표를 제안하며, 실험 결과 기존 모델 대비 우수한 성능과 제어 능력을 입증했습니다.
https://huggingface.co/papers/2504.08388
다음 내용이 궁금하다면?
이미 회원이신가요?
2025년 4월 14일 오전 5:29
댓글 0
함께 읽은 게시물
데이터 분석가 커리어 만들기[#2 tools 편] BI
R과 파이썬은 비교하는 이야기는 비교 관점 보다는 어떻게 공부하고 사용하면 좋을지 이야기 하고싶다. 비교는 하지 않으려고 한다. (이유는 #1 편 참고 )
상용 BI tool은 트렌드를 반영하며 지속적으로 기능이 업그레이드 되고 있다.
프리세일즈도 했었기에 가장 근거를 많이 삼는 사이트를 소개하면 비교 해보고자 한다.
BI tool를 다 나열하면 너무 많기 때문에 경험상 비교 되었던 몇 가지 툴을 비교하려고 한다.
아래 tool은 self BI tool로 국내 사이트에서 가장 많이 비교 검토 대상이 되었다. 각 tool의 장단점이 있고 QlikView 를 제외하고는 사용해보았다. (스킬 수준은 다르지만)
Spotfire VS Tableau VS Power BI
1. Tool 비교 사이트
대부분 가트너를 가장 신뢰하는 사이트인지 각 업체마다 가트너를 레퍼런스로 내세우며 비교 한다.
가트너: https://www.gartner.com/reviews/market/analytics-business-intelligence-platforms
참고 URL: https://www.finereport.com/en/bi-tools/top-5-bi-tools-of-201... 더 보기
데이터 분석가 커리어 만들기[#3 경험 ]
데이터 분석으로 커리어를 만들어 갔던 과정을 공유해보려고 합니다.
회사 부터 과정으로 일반적으로 크게 나누면 대기업에 취직하여 경험을 쌓아 가는 과정과 컨설팅, 분석 전문 회사 등에 취직하여 커리어를 쌓는 과정이 있다고 생각합니다. (뭐 다른 커리어 패스도 있겠지만 두 가지로 나누고 이야기 하려고 합니다.)
이중에서 저는 제 경험을 기반으로 후자의 케이스를 먼저 이야기하려고 합니다.
저는 처음 커리어를 컨설팅 업체에서 시작했습니다. 물론 빅데이터가 트렌드로 등장하는 시기여서 해당 업무를 아는 사람(?), 경험이 있는 사람은 별로 없었다. 빅데이터를 3V로 정의하던 시점이었습니다. ^^
서두가 길었지만 커리어를 만들어가는 과정에서 제일 중요하게 생각하는 요소는 어떤 프로젝트에서 어떤 역할을 했고 본인의 것으로 어떻게 만들었는지가 중요하다고 생각합니다.
아래는 커리어에서 중요하다고 생각하는 요소를 나열해봤습니다.
1. 도메인 이해
- 데이터 분석을 할 때 필요한건 데이터 처리, 분석 과정 뿐만 아니라, 데이터에 대한 도메인 이해도, 데이터 이해 능력도 필요합니다. 도메인의 특성에 따라서 데이터의 상황, 케이스... 더 보기
데이터 분석가 커리어 만들기[#1 tools 편]
데이터 분석가로 커리어를 만들어 간 과정을 써보려고 한다.
첫번째 주제로 재미없는 라떼 이야기와 분석 tool을 이야기 해보려고 한다.
요새는 R과 파이썬을 비교하며 어떤걸 배워야 할지 많이 물어보는 사람이 많은 것 같다.
결론부터 말하면 해당 언어에 대한 이해하면 되고 둘 다 하라고 하고 싶다. 두 개의 툴의 장단점이 있고, 본인이 속한 조직에서 필요로 하는 tool이 다를 수 있다. 사실 한 가지만 잘 한다면 어떤 걸 하던 크게 문제가 없다고 생각한다. 만약 어떤 조직에 갔는데 다른 언어를 배워야 한다면 배우면 된다.
1.통계학이 좋아 데이터 분석가로 직업을 하고 싶어 대학원을 진학했다
처음 랩실 선배들이나 대학원 프로젝트는 전부 SAS를 사용하는 툴을 사용했다.
2009년까지는 그랬다. 그런데 시대가 변하기 시작했다. 우리 연구실도....
2. Big Data가 이슈가 되면서 모든 프로젝트를 R로 하게 되었다.
그러면 항상 SAS와 R을 비교하며 질문을 했다. 물론 아직도 SAS를 쓰는 사이트(회사)는 SAS를 그대로 사용하고 R를 사용하는 사이트, 파이썬을 사용하는 사이트 등 다양하다.
그럼 그때 비교를 하면서 견제를 ... 더 보기
데이터 분석가의 디지털 브레인, DADB 한눈에 보기
데
-
