How the open-source world is wrestling with security and licensing issues for generative AI - SiliconANGLE
SiliconANGLE
오픈 소스 생성형 AI의 보안 및 라이선스 문제
생성형 AI 분야에서 OpenAI와 같은 Closed 소프트웨어 뿐만 아니라 AI 오픈 소스들이 매우 . 주목을 받고 있습니다. 관련해서 보안이나 라이선스 문제에 생각해 보지 않을 수 없는데요, 관련 기사 공유합니다.😃 (출처: SiliconANGLE)
<오픈 소스 진영의 생성형 AI의 보안 및 라이선스 문제를 해결하기 위한 노력>
생성형 인공 지능의 등장은 오픈 소스 커뮤니티 내에서 점점 더 커지는 논쟁을 동반했는데요, OpenAI 및 기타 모델 제공업체가 실제로 얼마나 오픈되어 있으며 해당 기술이 얼마나 신뢰할 수 있을까요?
투명성은 오픈 소스 정신의 특징이었지만 가장 널리 사용되는 AI 모델 중 상당수가 실제로 얼마나 투명한지에 대한 의문이 있습니다.
AI 전략 수립을 위한 오픈 소스 커뮤니티 참여
지난 3월에 CNCF(Cloud Native Computing Foundation)에서 인공 지능 백서를 발표했습니다. CNCF의 AI 실무 그룹 보고서에서는 AI 라이프사이클 전반에 걸쳐 "데이터를 소유하고 액세스할 수 있는 사람을 명확하게 정의하는 것이 필수적"이라고 언급했습니다.
CNCF 백서의 기고자는 “투명한 모델이 된다는 것이 무엇을 의미하는지에 대한 정해진 정의가 없으며, 이것에는 많은 무작위성이 있고 이 부분을 조정하기 어렵다. 우리는 커뮤니티에 참여하여 일부 문제를 해결하고 있다.”라고 합니다.
이러한 과제에는 개발자가 이전 데이터 사이언스 작업을 기반으로 구축 및 조정하고 생성적 AI 전략을 세울 수 있는 오픈 모델을 만드는 것이 포함되는데, 일반적으로 학습 데이터와 학습 코드를 복제하는 기능이 포함되어야 하는데 쉽게 사용할 수 없었습니다. 이 토론의 중심 주제는 오픈 생성형 AI 모델에 대한 표준을 정의하는 것이라고 합니다.
다양한 산업분야와 커뮤니티 프로젝트에서 이러한 표준을 정의하려는 노력이 진행 중입니다.
Red Hat Ansible을 활용하여 신뢰 구축
Red Hat은 법적 및 라이선스 분쟁을 최소화하고 오픈 소스 생태계에 대한 신뢰를 조성하는 동시에 개발자 커뮤니티에 적극적으로 참여하려는 노력을 통해 AI의 법적 복잡성을 해결하기 위한 이니셔티브에 참여해 오고 있습니다.
Red Hat의 Ansible 자동화 플랫폼은 모델 라이센싱 상태를 더 명확하게 파악하는 데 유용한 리소스임이 입증되었는데요, 작년 11월에 Red Hat은 공유 Ansible 코드의 학습 기반 저장소를 기반으로 하는 자동화된 생성형 AI 서비스로서 IBM의 watsonx Code Assistant와 함께 Ansible Lightspeed의 일반 출시(GA)를 발표했습니다.
작년에 Red Hat은 회사의 핵심 제품에 대한 소프트웨어 BOM(Bill of Materials) 또는 SBOM 파일을 게시하기 시작했습니다. 오픈소스 프로젝트인 TrustyAI는 Red Hat에서 개발했으며 2021년 AI 설명, 추적 및 책임을 위한 비즈니스 자동화 도구로 커뮤니티에 기여했습니다. Kognito와 OpenShift를 기반으로 구축된 클라우드 네이티브 솔루션으로, 모든 시스템에 배포하고 어떤 환경에서든 실행할 수 있습니다. AI 사용이 계속 증가함에 따라 이는 특정 모델의 출처를 신뢰하는 수단이 될 수 있습니다.
Linux 커널에 대한 위협
오픈 소스 생태계의 보안 및 신뢰와 관련된 문제는 지난 3월 말 Microsoft 개발자가 Linux 배포판 및 Unix 같은 OS 계열에서 일반적으로 사용되는 데이터 압축 소프트웨어인 XZ Utils에 배치된 악성 스크립트를 발견했다는 사실이 밝혀지면서 더욱 분명해졌습니다. 잠재적인 백도어 코드는 실제 신원이 확인되지 않은 단독 개발자에 의해 삽입된 것으로 보입니다.
Linux는 전 세계 네트워크를 실행하기 위한 기본 기술 중 하나이기 때문에 이러한 위기 상황은 기업 보안 세계를 소름 끼치게 만들었습니다. Linux 커널은 컴퓨터 하드웨어와 리소스 간의 핵심 인터페이스를 제공합니다.
Linux 백도어 삽입은 일부가 AI로 생성된 코드의 새로운 물결이 생태계로 유입됨에 따라 오픈 소스 세계가 직면한 난제를 강조합니다. 오픈 소스 커뮤니티의 정신에서는 소프트웨어의 모든 부분을 작성하는 모든 기여자의 완전한 그림을 얻고 보안을 확인할 수 있는 것이 어렵습니다. 하지만 오픈 소스 실무자들은 인간의 지성과 인간이 창조하려는 노력 사이의 미묘한 활동을 통해 해결책이 발견될 것이라고 믿습니다.
원본 기사 링크는 아래와 같습니다. 감사합니다.🙏
[Source Link] https://siliconangle.com/2024/06/02/open-source-world-wrestling-security-licensing-issues-generative-ai/
다음 내용이 궁금하다면?
이미 회원이신가요?
2024년 6월 30일 오전 7:20
댓글 0
함께 읽은 게시물
지난 주 고등학교 동창 몇몇을 만났을 때였다. 그 중 둘의 얼굴이 매우 어두웠다. 공교롭게도 그 날 직원들이 퇴사하겠다며 사표를 냈다고 했다. 청천벽력인 것 같았다. 자신들의 관리 책임으로 돌아올까 봐 걱정하는 눈치였다.
... 더 보기![[김인수 기자의 사람이니까 경영이다] 좋은 리더도 직원 이직률 낮추진 못해:행복한 퇴사자 만들라 - 매일경제](data:image/gif;base64,R0lGODlhAQABAIAAAAAAAP///yH5BAEAAAAALAAAAAABAAEAAAIBRAA7)
'케이팝 데몬 헌터스'는 한국은 물론, 미국, 영국, 호주, 프랑스, 독일, 홍콩, 인도, 이탈리아, 일본, 멕시코 등 총 22개국에서 1위를 차지했다.
... 더 보기
< 정답 없는 인생에 건네는 작은 힌트 >
1. 이 책을 주면서 사랑하는 딸에게 말하고 싶다.
구성원들이 의욕적으로 협력하고 열정과 에너지가 느껴지는 팀과 조직이 있는 반면, 서로의 일에 무관심하고 타성과 매너리즘에 빠져 무기력하게 하루를 보내는 조직이 있다. 이렇게 차이가 나는 이유는 뭘까? 그것은 근본적으로 팀과 조직을 이끌어가는 리더의 에너지 상태가 다르기 때문이다.
... 더 보기공식적으로 뭐하는 회사인지는 모르지만 일단 100억달러 기업가치
... 더 보기
