오름캠프는 국내 최대 AI 커뮤니티 플랫폼 모두의연구소가 만든 커뮤니티 기반 성장형 SW/AI 교육 과정입니다.

1.인공지능의 역설: 초인적 생성 능력과 인간적 오류의 경계

최근의 제너레이티브 AI 기술 발전이 초인적인 수준의 인공지능에 대한 전 세계적인 기대와 우려를 일으키고 있습니다. 이러한 모델들은 몇 초 만에 전문가 수준의 결과물을 생성할 수 있는 능력을 보이지만, 동시에 기본적인 이해에서 실수를 범하는 경우가 있습니다. 이는 초인적인 성과와 인간 같지 않은 오류 사이의 역설을 제기합니다. 이 연구에서는 생성형 AI 역설을 테스트하여, 직접 훈련된 모델이 전문가 수준의 결과물을 생성할 수 있지만 그 과정의 이해와는 독립적일 수 있다는 가설을 제시합니다. 이 가설은 언어와 이미지에 걸쳐 실험을 통해 검증되었으며, 모델은 생성 능력에서는 인간을 능가하지만 이해 능력에서는 미치지 못하고, 생성과 이해 사이의 상관관계가 약하며 적대적 입력에 취약함을 발견했습니다. 이는 AI의 생성 능력이 반드시 이해 능력과 일치하지 않음을 보여주며, AI를 인간 지능과 비교할 때 신중해야 함을 시사합니다.

https://huggingface.co/papers/2311.00059

2.인공지능과 인간의 경계: GPT-4의 튜링 테스트 성과 분석

GPT-4는 공개 온라인 튜링 테스트에서 평가되었으며, 41%의 게임에서 통과해 엘리자와 GPT-3.5의 기준을 넘었지만, 인간 참가자의 63%에는 미치지 못했습니다. 참가자들은 주로 언어 스타일과 사회 정서적 특성을 근거로 판단을 내렸고, 이는 지능만으로는 튜링 테스트를 통과하는 것이 충분하지 않음을 보여줍니다. 참가자의 교육 수준이나 LLM에 대한 친숙도는 AI를 감지하는 데 영향을 주지 않았으며, 이는 심지어 자주 AI와 상호 작용하는 사람들도 AI를 인간과 구별하는 데 어려움을 겪을 수 있음을 나타냅니다. 튜링 테스트는 자연주의적 의사소통과 속임수 능력을 평가하는 데 여전히 유용하다고 합니다. AI가 인간처럼 행동할 수 있는 능력은 사회적으로 광범위한 영향을 미치며, 인간성을 판단하기 위한 다양한 전략과 기준을 분석하는 것이 중요합니다.

https://huggingface.co/papers/2310.20216

3.혼동하기 쉬운 git 용어

git은 복잡한 용어가 많은데, 'HEAD'는 현재 브랜치를, 'detached HEAD'는 브랜치가 아닌 특정 커밋을 가리키는 상태를 말합니다. 병합 시 'ours'는 현재 브랜치, 'theirs'는 병합 대상을 의미합니다. 'origin/main'과 동기화된 상태라는 것은 마지막 동기화 이후의 상태만을 반영합니다. 'HEAD^'와 'HEAD~'는 커밋 히스토리를 탐색하는 데 쓰이며, 'fast-forward'는 충돌 없이 브랜치를 갱신할 수 있는 상황을 뜻합니다. 'refspec'은 원격 저장소 설정에, 'reflog'는 커밋 로그를 관리하는 데 쓰입니다.

https://jvns.ca/blog/2023/11/01/confusing-git-terminology/

4.Apache ActiveMQ 취약점을 악용하는 헬로키티 랜섬웨어 그룹

사이버 보안 연구원들은 Apache ActiveMQ의 심각한 보안 취약점 CVE-2023-46604가 원격 코드 실행으로 악용될 수 있다고 경고합니다. 이 취약점을 통해 HelloKitty 랜섬웨어가 배포되었으며, CVSS 점수는 최고 수준인 10.0입니다. 영향을 받는 버전은 최근 패치되었으며, 공격자는 .locked 확장자로 파일을 암호화합니다. 전 세계적으로 취약한 ActiveMQ 인스턴스가 수천 대 있어, 사용자는 즉시 업데이트와 네트워크 스캔을 해야 합니다.

https://thehackernews.com/2023/11/hellokitty-ransomware-group-exploiting.html

🥇K-디지털 트레이닝 기관 유일! 대통령 표창 수상한 모두의연구소 SW/AI 교육 과정 ‘오름캠프’

☑️ [D-1] Microsoft MVP 강창훈 주강사 직강! <자바스크립트 웹 풀스택> 1기 지원하기 → https://bit.ly/3tmITjj