GitHub Copilot을 만들게 된 과정입니다. - 내부에서 범용적인 코드 생성에 관한 얘기는 종종 있었지만 어렵다는 답변만 하고 있었는데 2020년 6월 OpenAI에서 GPT-3를 출시하면서 모든게 바뀌었고 범용적인 코드 생성도 가능해 보였다고 합니다. - OpenAI에서 API를 제공해 주어서 코드 스니펫을 생성하는 프로토타입을 만들어 봤고 이 프로토타입을 보고 IDE에 넣기로까지 결정하면서 GitHub Copilot을 만들기 시작했습니다. - 처음 OpenAI한테 받은 언어 모델은 Python전용 모델이었지만 그 뒤에 JavaScript 모델과 여러 언어를 지원하는 모델을 받았습니다. - 2021년에는 OpenAI와 파트너십을 통해(아마도 Microsoft를 통한 것일듯) GPT-3 모델에서 코드를 학습한 Codex 모델을 출시하게 됩니다. - 모델은 강력했지만 사용자에게 더 좋은 결과를 제공하려면 개선이 필요했고 테스트하면서 현재 편집 중인 파일과 코드 뿐 아니라 추가 컨텍스트를 제공하면 훨씬 더 좋은 결과가 나온 다는 것을 알게 되었습니다. - 처음에는 작성하는 언어와 다른 언어의 코드도 제안하기도 했지만 파일명이나 확장자에서 정보를 가져와서 파일 상단에 명시해 줌으로써 결과가 좋아졌고 IDE에 열린 파일을 통해 유사한 텍스트를 가져와서 컨텍스트를 제공해서 수락률이 더욱 증가했다고 합니다. https://github.blog/2023-05-17-inside-github-working-with-the-llms-behind-github-copilot/