Should We Respect LLMs? A Cross-Lingual Study on the Influence of Prompt Politeness on LLM Performance
arXiv.org
간밤에 OpenAI의 개발자 행사가 있었는데요. 4o로 데이터를 생성해서 4o-mini를 파인튜닝하는 파이프라인이나 평가 툴, ChatGPT Advanced Voice Mode를 그대로 구현 할 수 있는 Realtime API, 프롬프트 캐싱 등 유용한 기능들을 다수 발표했습니다.
기능들 자체는 대단히 유용한 기능들을 발표했지만, 익히 예상되어 있던 내용들이라 도파민이 부족했던 행사가 아니었나 싶은데요. 🤣
프롬프트 캐싱은 프롬프트가 긴 반복 작업이라면 자동으로 적용되어 구글이나 앤트로픽보다 편하게 사용할 수 있지만, 겨우(?) 50% 밖에 저렴해지지 않는다는 것이 좀 아쉽고, Realtime API도 분당 약 200원 정도의 비용이 나올 것으로 예상되는데요. 가격으로 승부하던 OpenAI 어디갔나 싶은 생각이 들었습니다. 🤣 물론 초반이라 그런거고 더 싸지긴 하겠지만요.
그보다 파이어챗에서 의미 심장한 말들이 좀 있었는데요. 그 중 몇가지를 선택해봤습니다. 벌써부터 2025년이 기대되네요. 😎🍿🥤
“역사를 되돌아보는 대부분의 사람들은 AGI가 언제 일어났는지 동의하지 않을 것이다. 튜링 테스트는 지나갔고 아무도 신경 쓰지 않았다.”
“2025년은 정말 큰 해가 될 것 같아요.”
“모델(o1)은 훨씬 더 빨리 좋아질 것입니다 [...] 아마도 이것은 GPT-2 순간일 것입니다, 우리는 그것을 GPT-4로 만드는 방법을 알고 있습니다.”
“필요한 모든 것을 동적으로 렌더링하고 컴퓨터를 사용하는 완전히 다른 방법이 될 수 있는 스크린의 미래 비전에 대해 이야기합니다.”
다음 내용이 궁금하다면?
이미 회원이신가요?
2024년 10월 2일 오전 2:59
커리어리 질문글에도 보면 일주일에 한번씩은 “ML Engineer, Data Scientist가 되고 싶은데 어떤 것부터 공부를 해야할지 모르겠다.” 는 질문이 자주 올라옵니다. 비슷한 질문이 계속 올라오는 이유는 정해진 답이 없기 때문이라고 생각합니다. 너무나도 다양한 방식으로 ML Engineer가 될 수 있기 때문에 처음 입문을 하시는 분들은 오히려 어떤 방향으로 나아갈지 몰라 갈팡질팡 하시는 것이죠.
... 더 보기