🎄 커리어리 친구들, 올해 마지막으로 개최된 인공지능/머신러닝 학회인 NeurlPS 2021에서 베스트 논문 10개를 Towards data science 블로그에서 발표했습니다. NeurlPS

🎄 커리어리 친구들, 올해 마지막으로 개최된 인공지능/머신러닝 학회인 NeurlPS 2021에서 베스트 논문 10개를 Towards data science 블로그에서 발표했습니다. NeurlPS 2021에서 2334개의 논문, 60개의 워크샵, 8명의 기조 연설자, 15,000명 이상의 참석자들이 참고로 참석했습니다. 🎄 인공 지능 분야에서 가장 사랑받는 컨퍼런스의 NeurlPS 2021은 올해의 2334개와 비교하여 1899개의 주요 트랙 논문이 승인되었습니다. 출판된 논문 중 일부는 현재 arxiv.org에 게시되었고 컨퍼런스가 시작되기 전에 가장 많이 인용된 NeurIPS 논문 상위 10개 목록입니다. 이 상위 논문 10개 리스트를 아래와 같이 정리해 보았습니다. 1️⃣ 구조 기반 약물 설계를 위한 3D 생성 모델 ❓Why → Bio ML은 머신러닝 기술의 적용과 발전에서 가장 두드러진 분야 중 하나였습니다. 이것은 단백질 결합을 기반으로 한 약물 설계에서 생성 모델이 어떻게 사용될 수 있는지에 대한 최근의 예입니다. 2️⃣ 객관성의 출현: 비디오에서 제로샷 분할 학습 ❓Why → 인간은 우리가 본 적도, 인식하지도 못한 물체를 쉽게 추적할 수 있습니다… 기계도 마찬가지입니다! 레이블이 지정되지 않은 비디오에서 학습하여 객체 세분화에 적용 가능한 제로샷 모델을 제시합니다. 3️⃣ 고정 언어 모델을 사용한 다중 모드 퓨샷 학습 ❓Why → 저자는 고정된 언어 모델의 능력을 다중 모드 설정(비전 및 언어)으로 이전하기 위한 간단한 접근 방식을 제시합니다. 프롬프트는 계속 유지됩니다. 이제 다중 모드 및 비동기식입니다. 재훈련 없이 비전 작업을 위해 사전 훈련된 언어 모델의 정보를 활용할 수 있습니까? 글쎄요... 계속 읽으세요. 4️⃣ Negative Cache를 이용한 효율적인 검색 모델 훈련 ❓Why → Negative Sampling in Dense retrieval은 신경 IR 영역에서 가장 중요한 주제 중 하나입니다! 이것은 중요한 단계인 것 같습니다. 저자는 검색 모델의 효율적인 교육을 위해 스트리밍 네거티브 캐시를 개발합니다. 5️⃣ VATT: 원시 비디오, 오디오 및 텍스트에서 다중 모드 자체 지도 학습을 위한 트랜스포머 ❓Why 저자는 감독 없이 원시 비디오, 오디오 및 텍스트에서 의미론적 표현을 학습하기 위한 순수 Transformer 기반 파이프라인을 개발합니다. 약속된 멀티모달 미래의 땅을 향한 또 한 걸음. 6️⃣ 강력한 예측 가능한 제어 ❓왜 → 압축의 렌즈를 통해 강화 학습의 몇 가지 근본적인 문제를 이해하기 위한 우수한 조감 논문. 저자는 압축 아이디어를 사용하여 RL에서 강력하고 예측 가능한 정책을 학습하는 방법을 제안합니다. 7️⃣ FLEX: Few-Shot NLP에 대한 통합 평가 ❓Why → Few-shot learning은 얼마 전부터 NLP의 멋진 아이였습니다. 이제 자체 벤치마크를 얻을 때입니다! 저자는 사전 교육 및 다운스트림 작업 형식을 통합하여 간단하고 강력한 프롬프트 기반 모델인 FLEX 원칙, 벤치마크 및 리더보드를 통합하여 몇 번의 NLP 및 UniFew 평가를 위한 모범 사례를 개발합니다. 8️⃣ 파티션과 코드: 그래프 압축 방법 배우기 ❓이유 → 저자는 그래프 분할, 사전 학습 및 엔트로피 코딩을 기반으로 하는 무손실 그래프 압축을 위한 유연한 종단 간 기계 학습 프레임워크를 소개합니다. 정규 데이터 압축(즉, 1과 0과 같은 일련의 기호)은 1948년 Shannon이 정보 이론을 도입한 이후 광범위하게 연구되었지만 그래프 압축에는 잘 이해되지 않는 다른 특성이 있습니다. 다음은 첫 번째 원칙에서 그래프를 압축하는 방법에 대한 연구입니다. 9️⃣ 그리기 배우기: 스케치를 통한 긴급 커뮤니케이션 ❓왜 → 재미있어요. 저자는 자가 감독 놀이를 사용하여 인공 에이전트가 그림을 통해 의사 소통하도록 훈련시킨 다음 적절한 귀납적 편향으로 인간이 사전 훈련된 그림 에이전트와 동일한 게임을 성공적으로 할 수 있음을 보여줍니다. 🔟 실패한 수정: 기계 학습 시스템의 자기 파괴적 개선 ❓Why → AI 시스템을 구성하는 모듈은 복잡하고 직관적이지 않은 방식으로 상호 작용할 수 있습니다. 이 생각을 자극하는 논문은 시스템의 하위 부분을 개선하면 전체 시스템을 악화시킬 수 있는 방법을 연구합니다. 저자는 일반적으로 기계 학습 모델을 따로 연구합니다. 그러나 AI 시스템은 많은 기계 학습 모델로 구성됩니다. 모델을 개선하면 시스템이 악화될 수 있습니까? 주말과 휴일에 아래의 URL 블로그 더불어 링크되어 있는 논문들을 다운로드 받아 한번 읽어 보시기를 강력히 추천드립니다.