The top 9 data analytics certifications
CIO
[0903]모두에게 전하는 모두연 AI뉴스!
AI의 선과 악: 정렬된 LLM의 '안전 계층' 최초 발견
이 연구는 정렬된 대규모 언어 모델(LLM)의 내부 매개변수에서 악의적인 질문을 식별하고 거부하는 데 중요한 역할을 하는 '안전 계층'을 처음으로 밝혀냈습니다. 연구팀은 다양한 정렬된 LLM에서 안전 계층의 존재를 확인하고, 이 계층의 범위를 정확하게 식별하는 일반화된 방법을 개발했습니다. 또한, 이를 기반으로 미세 조정 과정에서 안전 계층의 그라디언트를 업데이트하지 않음으로써 보안 메커니즘을 유지하는 새로운 미세 조정 방법인 SPPFT를 제안했습니다. 이 연구는 정렬된 LLM의 보안 메커니즘을 밝혀낸 선구적인 연구로, 무해한 AI 및 대규모 모델 보안 분야의 발전을 위한 토대를 마련했습니다.
https://arxiv.org/abs/2408.17003
AI가 꿈꾸는 사회: LLM 기반 사회 연결망 생성의 가능성과 한계
이 연구는 대규모 언어 모델(LLM)을 사용하여 사회 연결망을 생성하는 세 가지 프롬프팅 방법(Global, Local, Sequential)을 제안하고, 생성된 연결망의 현실성과 편향 가능성을 평가합니다. 연구 결과, Local 및 Sequential 방법이 Global 방법보다 더 현실적인 연결망을 생성하며, 특히 Sequential 방법은 실제 연결망의 구조적 특징을 잘 모방하는 것으로 나타났습니다. 또한, LLM은 인구통계학적 동질성을 포착하지만, 정치적 동질성을 과대평가하는 경향이 있으며, 이는 LLM이 생성한 관심사에서도 나타납니다. 이 연구는 LLM을 활용한 사회 연결망 생성의 가능성을 보여주지만, 정치적 동질성과 관련된 잠재적 편향을 해결해야 할 필요성을 강조합니다.
https://arxiv.org/abs/2408.16629
데이터를 비즈니스 가치로 연결하는 데이터 사이언티스트 전문 과정 모집 중! : https://bit.ly/3YBFXNf
다음 내용이 궁금하다면?
이미 회원이신가요?
2024년 9월 3일 오전 6:29
댓글 0
함께 읽은 게시물
<🇺🇸 미국 취업 루트?>
미국, 캐나다 근무했던 경험을 바탕으로 취업 루트 몇 가지 알려드립니다 (현재는 미국 정착). 이 포스팅은 몇 가지 옵션을 간단하게 소개하기 위해 공유합니다. 이민 전문 변호사가 아니기 때문에 자세한 정보는 변호사와 상담해보세요.
1️⃣ 미국 대학 졸업 + OPT/OPT STEM EAD 수령
미국 정부에서 인정하는 4년제 대학을 졸업하면 취업할 수 있는 OPT 프로그램을 제공합니다. OPT는 비자가 아니며 취업 권한을 가질 수 있는 프로그램입니다. 문과는 대게 1년이며 이과는 1+2, 총 3년입니다. 문제는 OPT의 경우 기간이 짧고 이 기간 내에 영주권 수령이 거의 불가능하기 때문에 추후 미국 6년짜리 취업 비자인 H1B 스폰서십을 받아야 합니다. OPT는 회사가 스폰서 하는 프로그램이 아니라 학교에서 제공하는 프로그램이라서 이직이 비교적 자유롭고, 해고당하더라도 취업 권한이 사라지지 않고 다른 회사에 다시 취업할 수 있습니다.
굳이 미국 대학이 아니라도 2년 대학원 유학을 통해 OPT/OPT STEM 자격을 얻어서 취업하는 경우도 많습니다.
2️⃣ H1B
회사가 스폰해주는 미국 취업 비자입니다. 총기간은 6년이지만 3년마자 재 신청해서 총 6년까지 받을 수 있습니다. 한국에서 대학을 나오더라도 미국 회사 인터뷰 통과 후 스폰만 해준다면 지원할 수 있습니다. 굳이 미국 대학을 나오지 않아도 됩니다. 문제는 H1B 수령은 하늘의 별따기만큼 어렵습니다. 로또처럼 무작위로 정해진 숫자만큼 뽑는데, 지원자는 3배 이상 많아서 성공률이 33% 이내로 적습니다.
3️⃣ 외국계 취업 후 L1비자로 미국 본사로 이직
캐나다 있을 때 가장 많이 본 케이스입니다. 미국 회사의 외국 지사에 1년 근무하면 L1비자를 스폰받을 수 있습니다. L1수령 후 미국 본사에서 근무 가능합니다. 물론 회사에서 해줘야지만 받을 수 있는 비자이지만 L1은 H1B처럼 정해진 숫자가 있는 게 아니라 서류와 인터뷰 심사만 잘하면 받을 수 있습니다. 코로나 이전에는 3개월에서 6개월이면 수령할 수 있어서 주변의 많은 지인들이 캐나다에서 미국으로 이직했었습니다. 단점이라면 L1은 회사에서 해고당하는 날 바로 한국으로 귀국해야 합니다. L1 기간 중 회사에서 영주권을 스폰해주면 다행이지만, 안 해주고 해고당하면 언제든지 나갈 준비를 해야 하... 더 보기
아미고(Ameego)의 피드백 중에서 아미고가 불친절😅해서 좋다는 이야기를 꽤 들었는데요.
UX가 나쁘다는 것이 아니라, 앱이 대부분 영어로만 되어 있고, 대화 중 자막이 없고 턴제가 아닌 실시간 대화 중심인 것을 말합니다.
데이터 이야기 #6: 기본 데이터 직군 - 데이터 엔지니어
앞서 포스팅에서는 기본 데이터 직군이라 할 수 있는 데이터 엔지니어, 데이터 분석가, 데이터 과학자 중 먼저 데이터 분석가와 데이터 과학자에 대해서 이야기해보았다. 이번 포스팅에서는 데이터 엔지니어에 대해 이야기해보고자 한다.
... 더 보기각종 스토리지를 통해 알아 보는 분산 시스템 개념
1️⃣ Apache Cassandra
- 파티션 기반의 Wide Column 저장소 모델을 활용
- multi-master data replication
- 높은 가용성(availability)과 low latency를 제공함
- 단일 장애 지점(single point of failure)이 없음
- 궁극적 일관성(eventual consistent) 데이터베이스
- 모든 업데이트는 궁극적으로 레플리카 노드에 도달함
- 궁극적 일관성으로 인해 임시적으로 노드마다 데이터가 다를 수 있음
- Consistent Hashing으로 데... 더 보기
🚀 [2025 셀프 호스팅 가이드]
중
... 더 보기
