가볍게 배우고 깊게 즐기고 오래 남기기

이번 주는 가히 Sora Week라고 해도 과언이 아닙니다. OpenAI가 Sora를 통해 선보인 영상들 중 저의 Top3는 아래 영상과 아말피해변, 백남준화백의 비디오아트풍 영상이었습니다. 작년 가을 무렵 OpenAI API로 여러가지 토이 프로젝트를 할 때, GPT와 DallE로 'Realistic image'를 구현한 개인화 App을 구현한 적이 있었습니다. 그 과정에서 기존 데이터와 인프라가 많지 않아도 프롬프트만으로 초기부터 다양한 개인화 시도를 할 수 있겠다고 느꼈지만, 그게 이미지에서 영상으로 오기까지 이렇게 몇 개월 안 걸릴 것이라고는 예상하지 못했습니다. 이런 속도를 보고 데이터 학습 관점의 '황의법칙'처럼 'OAI의법칙'라는 말이 새로 태동할 수 있지 않을까 가끔 생각합니다. OpenA..

APIRemovedInV1: You tried to access openai.ChatCompletion, but this is no longer supported in openai>=1.0.0 - see the README at https://github.com/openai/openai-python for the API. You can run `openai migrate` to automatically upgrade your codebase to use the 1.0.0 interface. Alternatively, you can pin your installation to the old version, e.g. `pip install openai==0.28` A detailed migration gui..

GPT-4 Turbo가 출시되었다. OpenAI에서 GPT-4-Turbo모델 런칭하면서 동시에 API 요금을 인하 발표했다. https://openai.com/blog/new-models-and-developer-products-announced-at-devday New models and developer products announced at DevDay GPT-4 Turbo with 128K context and lower prices, the new Assistants API, GPT-4 Turbo with Vision, DALL·E 3 API, and more. openai.com Microsoft에서도 아래와 같은 따끈한 소식을 지난 16일에 전해왔는데, 얼마 되지 않아 개발 서버에서 바로 적..

Azure에서 OpenAI모델을 활용할 경우 엔드포인트의 차이로 불가피하게 계속 파라미터와 문법 체크를 해줘야 한다. Python 버전 C#버전 모두 다르지만 이 페이지에는 Python을 위주로 정리되어 있음 MS-oriented Lang이다 보니 C#은 비교적 더 문서가 구체화되어 있는 점 참고 https://learn.microsoft.com/ko-kr/azure/ai-services/openai/how-to/switching-endpoints Python을 사용하여 OpenAI와 Azure OpenAI Service 엔드포인트 간에 전환하는 방법 - Azure OpenAI Service OpenAI와 Azure OpenAI 엔드포인트 간에 교환하기 위해 코드에 적용해야 하는 변경 내용에 대해 알아봅..

Azure에서는 최근까지 업데이트 되었던 아래 5개 모델 외 text-davinci를 비롯한 Legacy Model에 대해서 서비스를 하지 않는다고 공지했다. 서비스는 gpt-4 기반이라 크게 이슈는 없지만 개인적으로는 gpt-4보다는 text-davinci의 대화력을 좋아해서 모델 Response 비교/ 프롬프트 보완에 종종 활용했는데 이렇게 서비스 오프된다니 조금 아쉽다. Legacy Model은 내년 7월 초에 전체 지원이 종료되니, 아래 내용을 참고해서 해당하는 모델들은 내년 상반기(2024.1H)까지 마이그레이션을 해야 한다. 1) GPT-3.5 Turbo Instruct 모델로 마이그레이션 필요 text-davinci-002 text-davinci-003 code-davinci-002 text..

지난 포스트에서 공유했던 MS 애저톤에서 프롬프트 엔지니어링 업무효율화 영역 수상 후 노하우에 관련한 내용들을 나누는 자리가 있었다. ChatGPT Prompt Guide || 빠른 앱 개발을 위한 Agile ERD구축 : ChatGPT 기반 데이터모델링 3-Step Prompt (챗GPT M 보다 효율적인 GPT 연계 개발을 위해서 하이에나처럼 헤매던 중에 Microsoft와 AIFactory에서 주최하는 챗GPT MS애저톤을 참가할 기회가 생겼다. 마음 같아서는 슬랙이나 기타 3rd Party 솔루션과 연동해 awesomist.tistory.com 지난 글에서 과정을 생각했다면 이번 세미나와 대담시간엔 스터디 외에 실무에서 느꼈던 노하우와 개인적으로 이 기술에 대해서 느꼈던 생각들에 대해서 함께 나누..

Google Bard 가 나와서 시끌시끌하다. 생각보다 낫다. 한국어 대응이 더 낫다는 말도 있고 하던데 직접 두 LLM 서비스 자연스러움을 한번 체크해보고 싶었다. 둘의 정보량 차이나 자연스러움을 한번 체크해보고 싶기도 하고 요즘 각자가 생각하는 스스로를 가장 잘 쓰는 법을 물어봤다. 나의 질문은 이것. 요즘 chatgpt/Bard에서 사람들이 주로 질문하는 내용은 어떤 거야? 그리고 너가 가장 자신있는 분야가 어떤건지 말해주면서 가장 잘 활용하기 위한 방법도 각각 알려줘 GPT에게는 Azure OpenAI 포함해서 4가지 모델에 질문을 넣어봤다. (1) text-davinci-002-render-sha (https://chat.openai.com) (2) gpt-3.5-turbo / (Azure) (..

기존 OpenAI에서 제공하는 영역보다 보다 폭 넓게 작업하기 위해서 Azure API를 사용하면서 하이퍼파라미터를 공부하고 있는데, MS 내에서 제공하는 문서들을 전체적으로 잘 되어있지만 OpenAI 문서와 관련해서는 실질적으로 파이썬 사이드 MS문서와 openai 공식문서 내에 전체 파라미터를 정리한 내용이 촘촘하게 정리되어 있지 않아서 직접 정리해보았다. (닷넷쪽에 하이퍼파라미터는 잘 설명되어있고 파이썬은 누락이 많음) (2023.05.02 기준 , Azure openai 내 최신화된 Hyperparameter) * best_of / logprobs / logit_bias는 현재 2023-03-preview 버전에서 제공되고 있다. * 그 외에 .net의 경우 echo라는 변수를 통해 말 그대로 입..

바쁘다 바빠 끝이없다 공부 Slack GPT 개발 + 프롬프트 엔지니어링 투입 여태 체크한 것들과 앱개발한 건은 나중에 전체 정리하기로 하고 학습시키는 데이터 개발 생성도 파이썬으로 개발하면 되지만 앱 연동이 우선이니 일단 GoogleSheet에서1차 정제 들어가는 것이 빠르게 삶을 사는 방법 확실히 사내에 활용하기에는 기존 모델 내에 자잘한 유연화에 심어주는 형태가 제일 좋긴 한 것 같다. 세션마다 학습시키는 것은 너무 비효율적이다. GPT를 활용하기 위해서 필수 전제 조건 : OpenAI API Key 획득 https://platform.openai.com/ 가입 후 https://platform.openai.com/account/api-keys 에서 개인 API Key가 있어야 활용 가능하다. (아..

LangChain이란 거대규모의 자연어와 텍스트를 학습한 대규모 언어 모델 LLM(Large language model) 기반으로, AI와 블록체인 기술을 연계해 언어 학습을 가능하게 하는 분산언어 학습 플랫폼이다. 더 명확하게 이야기 하자면 LangChain은 블록체인 기술을 이용하여 분산 네트워크를 구축하고, 학습 내용은 블록에 저장함으로써 보안성과 투명성을 확보하는 구조를 갖는다. 그리고 블록체인 고유의 특성에 맞게 사용자들은 학습한 내용을 추적하고, 학습 기록을 다른 사용자들과 공유할 수 있다.. LLM은 마이크로소프트를 비롯한 구글, 메타 등 글로벌 펌은 물론, 국내 Naver, SK 등 한국어 최적화된 GPT 개발에 힘을 쏟고 있다. MS가 ChatGPT를 삼키면서 앞으로 어떻게 쓸 것인가 장..