• 생성형 AI의 그림자: 악용 사례와 전략 분석

이번 논문은 생성형 AI의 악용 사례와 전략을 분석합니다. 2023년 1월부터 2024년 3월까지 보고된 약 200건의 실제 악용 사례와 문헌 연구를 통해 생성형 AI 악용 전략 분류 체계를 제시하고, 주요 악용 패턴, 동기, 전략 등을 밝힙니다. 연구 결과에 따르면, 가장 빈번한 악용 유형은 인간 이미지 조작 및 증거 위조이며, 대부분 여론 조작, 사기 범죄, 금전적 이익을 목적으로 합니다. 또한 기술적으로 복잡한 공격보다는 쉽게 접근 가능한 기능들이 악용되고 있으며, 정치적 목적의 커뮤니케이션, 자기 홍보 등 윤리적 문제를 야기하는 새로운 형태의 악용도 등장하고 있습니다.

https://deepmind.google/discover/blog/mapping-the-misuse-of-generative-ai/

• Lumina-mGPT: 텍스트 설명으로부터 다양한 해상도의 사실적인 이미지 생성

이 논문에서는 텍스트 설명으로부터 다양한 해상도의 사실적인 이미지를 생성할 수 있는 멀티모달 자기회귀 모델 Lumina-mGPT를 소개합니다. Lumina-mGPT는 기존의 자기회귀 모델과 달리 사전 학습된 디코더 전용 트랜스포머를 사용하여 멀티모달 토큰 시퀀스를 모델링합니다. 핵심 아이디어는 대규모 이미지-텍스트 데이터셋에 대해 간단한 "다음 토큰 예측" 목표를 사용하여 멀티모달 생성 사전 학습(mGPT)을 수행하면 광범위하고 일반적인 멀티모달 기능을 학습할 수 있다는 것입니다. 또한, 고품질 이미지-텍스트 쌍에 대한 유연한 점진적 지도 학습(FP-SFT)을 통해 Lumina-mGPT의 잠재력을 최대한 활용하여 이미지 생성 기능을 향상시킵니다. Lumina-mGPT는 텍스트-이미지 생성 외에도 멀티턴 대화, 시각적 질의응답, 밀집 레이블링 등 다양한 작업을 처리할 수 있는 능력을 보여줍니다.

https://huggingface.co/papers/2408.02657

[마감임박!] AI 개발자 과정의 압도적인 수준 차이! 입문자에서 전공자까지! 아이펠 9기 : https://bit.ly/4ePP8iK