가볍게 배우고 깊게 즐기고 오래 남기기

GPT-4 Turbo가 출시되었다. OpenAI에서 GPT-4-Turbo모델 런칭하면서 동시에 API 요금을 인하 발표했다. https://openai.com/blog/new-models-and-developer-products-announced-at-devday New models and developer products announced at DevDay GPT-4 Turbo with 128K context and lower prices, the new Assistants API, GPT-4 Turbo with Vision, DALL·E 3 API, and more. openai.com Microsoft에서도 아래와 같은 따끈한 소식을 지난 16일에 전해왔는데, 얼마 되지 않아 개발 서버에서 바로 적..

Our World in Data에서 세상이 주목하고 있는 AI 모델들의 모델별 학습비용을 리서치했다. 1950년대 모델부터 2023년 5월 출시된 GPT4까지 각 AI Dynamic한 데이터 변동은 아래에서 확인할 수 있다. https://ourworldindata.org/grapher/artificial-intelligence-training-computation Computation used to train notable artificial intelligence systems Computation is measured in total petaFLOP, which is 10¹⁵ floating-point operations. ourworldindata.org 금액면에서 압도적인 GPT4. 하지만 업데..

기존 OpenAI에서 제공하는 영역보다 보다 폭 넓게 작업하기 위해서 Azure API를 사용하면서 하이퍼파라미터를 공부하고 있는데, MS 내에서 제공하는 문서들을 전체적으로 잘 되어있지만 OpenAI 문서와 관련해서는 실질적으로 파이썬 사이드 MS문서와 openai 공식문서 내에 전체 파라미터를 정리한 내용이 촘촘하게 정리되어 있지 않아서 직접 정리해보았다. (닷넷쪽에 하이퍼파라미터는 잘 설명되어있고 파이썬은 누락이 많음) (2023.05.02 기준 , Azure openai 내 최신화된 Hyperparameter) * best_of / logprobs / logit_bias는 현재 2023-03-preview 버전에서 제공되고 있다. * 그 외에 .net의 경우 echo라는 변수를 통해 말 그대로 입..