셀렉트스타의 Amazon API Gateway WebSocket 을 활용한 AI Red teaming API 스트림 처리 방법 | Amazon Web Services
Amazon Web Services
셀렉트스타의 GenAI Korea 2024 레드팀 챌린지 운영 비결!
다양한 FM모델 의 API 스트림 처리를 고민하고 계시다면 아래 사례가 도움이 될 수 있습니다.
지난 4월 개최된 "Gen AI Korea 2024 생성형 AI 레드팀 챌린지"는 2,000명 이상의 참가자와 심사자가 참여하는 대규모 행사였습니다. 셀렉트스타(Selectstar)는 이번 챌린지에 기술 파트너로 참여하여, 참가자들이 사용할 수 있는 AI 플랫폼을 제공하는 역할을 맡았습니다.
기획부터 개발, 대회 운영까지 2개월이라는 짧은 기간 동안 소수의 개발 인원으로 프로젝트를 이끌어야 했고, 특히 여러 생성형 AI 모델공급자의 API 를 안전하게 제공하는 것이 중요한 과제였습니다.
셀렉트스타는 다양한 API 관련 요구사항을 Amazon API Gateway를 이용해서 효율적으로 구현하였고, AWS 관리형 또는 서버리스 서비스들을 최대한 활용하여 운영 부담을 줄이고 성공적으로 마칠 수 있었습니다.
https://aws.amazon.com/ko/blogs/tech/how-selectstar-builds-ai-redteaming-websocket-api-with-amazon-apigateway/
다음 내용이 궁금하다면?
이미 회원이신가요?
2024년 5월 29일 오후 2:47
댓글 0
함께 읽은 게시물
주니어 개발자들이 읽으면 좋은 테크 아티클 모음📚
F-Lab 에서 주니어 개발자들이(사실 개발자라면 누구나) 보시면 좋을 아티클 모음을 공유해 주었네요!
검색엔진부터 비동기 처리, NoSQL 등 다양한 분야의 아티클들이 공유되어 있으니 관심있으신 분들은 보시면 좋겠습니다.
F-Lab 에서 공유해주신 아티클 주제를 나열해보면 다음과 같습니다.
📌 구글이 직접 말하는 검색엔진의 원리 (tali.kr)
📌 검색 엔진은 어떻게 작동하는가 (xo.dev)
📌 네이버의 검색엔진의 특징과 알고리즘 (tistory.com)
📌 [네이버 블로그]네이버 검색의 원리 : 네이버 블... 더 보기
두 가지 목표가 있다. 어떤 목표가 학습 동기를 높인다고 생각하는가?
... 더 보기샘 알트만: "지금 당신이 o3보다 더 똑똑하다고 생각하세요?"
초보 영상 제작자 환영! 교육과정 소개영상 공모전 (~6/9)
당
... 더 보기
