DAY 1

• 패널 토크 / AI의 투자 및 미래 조망

  • [ 음재훈 대표 - 실리콘 밸리 투자자 ]

    • 7-80% 기업들이 AgenticAI를 도입해 경제적 효과를 보임

    • Sovereign AI의 추세로 모든 나라들이 자체 AI를 개발하는 LLM 개발 트렌드를 보임

    • EX) 이스라엘의 경우 저작권이 없는 이미지를 1B 이상 모아 Enterprise 고객 유치

    • 수요가 있기 때문에 이러한 개발 트렌드를 보이고는 있으나, 기업이 쓸 수 있게 모델을 개발하는 것이 가장 중요함

  • [ 고려대 김찬우 교수(전, 삼성전자 부사장) - 음성인식분야 전문가 ]

    • 초기 음성인식 모델은 음성합성 영역에서 시작해, 현재는 Multimodal Type으로 트렌드가 변화해 MLLM의 도입 시도가 관련 Application 영역에서 많이 증가하고 있음

    • 추후, 구독 서비스 모델이 로봇, 자율주행 분야의 음성인식 과정에서 등장할 것으로 기대

• Maryland 교수 / HCI 기준 AI

  • 너무 당연한 말이지만, AI는 강력하기 때문에 반드시 사용해야 하지만, 국가 규제를 고려함과 동시에 사실 확인을 거친 뒤에 사용할 필요가 있는 것을 강조

  • 따라서 Apple, MS등과 같은 빅테크는 실패를 피하기 위해 꾸준한 Test의 필요성 강조

• 패널 토크 / AI를 활용하는 기업들의 전략

  • [ KAIST 장동민 교수 - LLM 전문가 ]

    • 현재는 AI Agent의 트렌드는 단순 비서가 아님

    • LLM과 기존 전산에서 만든 시스템과 연결해 비즈니스 환경을 새로 만들고 수익성을 가져올 수 있음

    • 보안 이슈를 해결하는 것도 중요하지만, 외부 소스를 기업들이 잘 활용하는 것도 필요함.

    • 한국에서는 삼성전자의 코드 유출 사건이 이슈가 되었지만, 해외에서는 크게 이슈가 되지 않고 OpenAI의 개발 모델을 적극 활용 하고 있음

  • [ 두산 중공업 ]

    • 사내 발전소와 공장에서 예측진단, 최적화 과정 적극 활용하고 있으며, LLM 도입도 준비중이며, 자동화, 지능화, 무인화를 목표

    • 데이터 보안 이슈를 해결하기 위해 지속적으로 모니터링 중이며, 과거의 내부 데이터를 활용해 모델 업데이트 진행중. 이 과정에서 개발자들은 LLM 적극 활용 중

• 왜 AI 프로젝트는 실패하는가? : 실패를 줄이는 조건

  • [ KAIST 장동민 교수 - LLM 전문가 ]

    • 과거의 6 Sigma와 현재 AI의 도입이 매우 유사함

    • AI팀에서 모든 것을 다 총괄하는 것 보다는 기획팀에서 필요한 니즈가 무엇인지를 검토하고, 전사적으로 AI를 활용해서 필요한 모델을 개발할 수 있도록 할 필요가 있음

    • 또한, 위의 사례를 실행 시키기 위해 파격적인 보상과 처우가 제공되어야 하며, 모두가 적극적으로 AI를 통해 더 나은 결과물을 만들 수 있는 환경 조성의 필요성 제시

    • 향후 AI Agent 시대가 도래할 경우, 데이터뿐 아니라 모델 개발을 위한 코드가 중요하기 때문에 직원들 대상 AI의 꾸준한 교육이 필요

• AI Transformation 로드맵: 기술, 인재, 워크플로우, 데이터 더 현명한 기업으로의 도약 방법

  • [ 벤츠 Milind - AI Scientist ]

    • 12주간 판매량, 신제품 수요, 소비자 선호도 예측 및 원자재 가격 변동성 예측 & 재고관리의 최적화 과정에서 LLM을 포함한 AI 분야에서 사용되고 있음

• AI, 미래의 홈을 바꾸다: LG 전자 AI 에이전트 ‘퓨론’ 사례

  • [ LG전자 - 팀장]

    • 생성형 AI의 다음 시대는 다양한 Multimodal type의 데이터를 활용해 Agentic AI 시대의 도래로 업무 소통하는 방식의 변화를 많이 가져옴

    • LG전자는 문제 해결 관점에서 AI 에이전트를 설계, AI 홈 구현 목표로 하며, 기존 스마트홈을 넘어 고객 문제 해결과 공감 능력을 갖춘 에이전트를 개발

    • 핵심 기술은 리얼타임 인텔리전스(IoT 센서로 실시간 데이터 인식 및 환경 파악), 오케스트레이터 인텔리전스(맞춤형 서비스 제공과 API 활용 최적화), 리스펀스블 인텔리전스(신뢰성과 보안을 강화하는 LG Shield 도입) 3가지로 구성

    • 감정 및 환경 데이터와 외부 데이터를 활용해 초개인화된 AI 서비스를 제공하며, 비용 최적화와 공감형 AI 홈 구현을 목표로 개발 중

• 한때의 유행을 넘어서: 실질적인 가치를 제공하는 AI 제품 개발 스토리

  • [ 전 구글 - AI Group Leader ]

    • 모델 개발 및 구현 전략은 대규모 리소스가 필요한 복잡한 프로젝트 대신, 프롬프트 엔지니어링과 같은 간단한 접근법으로도 높은 성과를 달성 가능하다는 인사이트 전달

    • 전반적인 제품 개발에 대한 목표 정의, 리소스 파악을 포함한 기술 역량 평가, 비용 관리의 핵심 요소를 기반으로 프로세스 정의 및 달성할 지표와 목표를 명확히 선정하고 전략 제안

    • 신뢰성, 정확성 등 주요 기준으로 모델 성능을 점수화하고, 간단한 가설을 세워 사용자 영향력 평가의 방법론 설명

DAY 2

• AI Adption Journey: 성공적인 엔터프라이즈 AI Adoption의 조건

  • [Sergio Gago - Moody’s 분석가]

    • 금융 산업에서의 AI 활용: AI를 통해 리스크 관리와 금융 문서 자동화 구현 및 분석 범위 확장

    • 조직 내 AI 문화: 전사적 교육과 학습 도구 제공으로 조직 구성원이 AI 적극 활용하도록 지원

    • AI 도입의 위험: 환각 문제와 보안 및 규제 준수를 고려한 품질 관리 시스템을 구축

    • 비용 및 효율성: AI 도입으로 작업 효율성을 40% 향상 및 소규모 모델을 활용해 비용 절감

  • [Nikhil Dwarakanath - Grab 데이터 head]

    • 자동차가 점차 소프트웨어 중심으로 변화하며, 소프트웨어 개발 및 관리의 중요성이 증가

    • 조직 차원의 변화: 아이디어 발굴 및 개발 과정에서 조직적 참여 확대

    • Grab은 라스트 마일 문제를 해결하기 위해 AI를 활용해 드라이버와 고객 간의 위치 정보를 자연어로 제공하여 효율성을 높임 등 AI가 모든 곳에서 많이 사용되고 있음

• 새로운 생성 미디어 & 엔터테인먼트 기업의 탄생에서 성장까지

  • [ Cristobal - Runway CEO ]

    • 4년 전 초창기 AI 모델은 저해상도 이미지 결합 수준의 결과를 제공했으나, 이후 점차 고품질 비디오 생성이 가능해져, 현재는 실시간으로 고해상도 비디오와 복잡한 시각 효과 생성 가능

    • AI 모델을 활용한 실사와 생성 비디오의 결합 및 텍스트 입력으로 라이브 액션 비디오 생성, 기존 영상 위에 메이크업 추가 등 생성 가능

    • 참고로, Sora 어제 소라 모델 사용 가능하게 배포

• RAG, AI Agent 등 LLM기반 AI 기술 진화 현황의 이해 및 2025 전망

  • 아래의 전망 트렌드에 대해서 MS의 논문 소개와 함께 설명하였으며, MS는 추후에는 Multi-Agent에 대한 등장으로 가장 똑똑한 Orchestrator가 전체 시스템을 조율하는 구조로 발전할 것이라 전망

  • 챗봇 리더보드: 모델 성능 비교의 지표로 활용되며, 공정한 순위 산정을 위해 랜덤 비교 방식 사용

  • 언어모델 비용: 최신 모델은 성능 향상에 따라 비용 효율성에 대한 고민이 중요해지고 있음

  • Reasoning Native Model: 인간 수준의 추론 능력을 보이며 성능이 대폭 향상된 모델 등장

  • 멀티모달 AI: Vision-Language 모델이 이미지와 텍스트를 통합 처리하며 활용 사례가 증가

  • Knowledge Graph: 기업 문서를 벡터화하여 심화된 질의응답과 데이터 분석을 가능

  • 에이전트 시스템: 리서치, 코딩, 서핑 등 다양한 역할을 수행하며 협업과 효율성을 지원

  • 경량화 기술: Quantization 등을 통해 모델의 효율적인 운영과 로컬 환경 실행이 가능

  • 생산성 향상: 기술은 사람 대체보다 생산성 증대를 목표로 지속적으로 최적화되고 있음

  • Azure 기반 솔루션: 자동화 배포 및 Knowledge Graph 생성 도구로 기업 데이터 관리 용이

• ‘라마’ 개발 리더가 설명하는 LLM: Small Models 최신 기법

  • SLM의 장점: 데이터 프라이버시 보호, 비용 효율성, 특정 업무 맞춤화 용이

  • 지속 가능성 문제: 대형 모델의 에너지 및 자원 소모로 환경 문제 대두

  • 모델 압축 기법: Pruning, Knowledge Distillation, Quantization 활용

  • SLM 개발: 특정 작업에서 대형 모델 성능을 초과할 가능성 있음

  • 미래 연구 방향: 모델 최적화와 하드웨어 혁신이 필요

  • 결론: 소형 모델은 특정 환경에서 대형 모델을 대체할 가능성이 있음

• 결국 정말 중요한 것은 Evaluating LLM & Fine-Turning

  • LLM Training 과정: Base, Instruct, Chat 모델 순으로 발전하며 데이터와 학습 목표에 따라 성능 향상

  • Fine-tuning 필요성 평가: 간단한 엔지니어링 기법과 평가 프레임워크로 초기 해결 가능 여부를 검토

  • Fine-tuning 데이터 설계: 정확성, 다양성, 복잡성을 고려해 적합한 데이터 세트를 생성

  • Fine-tuning 알고리즘: Full Fine-tuning, LoRA, QLoRA 등 상황에 맞는 효율적 학습 방식 활용

  • 평가 방법: 자동화된 벤치마크와 인간 평가를 병행해 품질과 실제 활용성을 점검

  • 모델 병합: 도메인 특화 모델과 일반 목적 모델을 결합해 시너지 효과를 극대화

  • 권장 사항: 초기부터 벤치마크 설계와 하이퍼파라미터 최적화를 통해 모델 성능을 지속 개선

  
  

• https://aisummit.co.kr/