가볍게 배우고 깊게 즐기고 오래 남기기

APIRemovedInV1: You tried to access openai.ChatCompletion, but this is no longer supported in openai>=1.0.0 - see the README at https://github.com/openai/openai-python for the API. You can run `openai migrate` to automatically upgrade your codebase to use the 1.0.0 interface. Alternatively, you can pin your installation to the old version, e.g. `pip install openai==0.28` A detailed migration gui..

GPT-4 Turbo가 출시되었다. OpenAI에서 GPT-4-Turbo모델 런칭하면서 동시에 API 요금을 인하 발표했다. https://openai.com/blog/new-models-and-developer-products-announced-at-devday New models and developer products announced at DevDay GPT-4 Turbo with 128K context and lower prices, the new Assistants API, GPT-4 Turbo with Vision, DALL·E 3 API, and more. openai.com Microsoft에서도 아래와 같은 따끈한 소식을 지난 16일에 전해왔는데, 얼마 되지 않아 개발 서버에서 바로 적..

Azure에서 OpenAI모델을 활용할 경우 엔드포인트의 차이로 불가피하게 계속 파라미터와 문법 체크를 해줘야 한다. Python 버전 C#버전 모두 다르지만 이 페이지에는 Python을 위주로 정리되어 있음 MS-oriented Lang이다 보니 C#은 비교적 더 문서가 구체화되어 있는 점 참고 https://learn.microsoft.com/ko-kr/azure/ai-services/openai/how-to/switching-endpoints Python을 사용하여 OpenAI와 Azure OpenAI Service 엔드포인트 간에 전환하는 방법 - Azure OpenAI Service OpenAI와 Azure OpenAI 엔드포인트 간에 교환하기 위해 코드에 적용해야 하는 변경 내용에 대해 알아봅..

Azure에서는 최근까지 업데이트 되었던 아래 5개 모델 외 text-davinci를 비롯한 Legacy Model에 대해서 서비스를 하지 않는다고 공지했다. 서비스는 gpt-4 기반이라 크게 이슈는 없지만 개인적으로는 gpt-4보다는 text-davinci의 대화력을 좋아해서 모델 Response 비교/ 프롬프트 보완에 종종 활용했는데 이렇게 서비스 오프된다니 조금 아쉽다. Legacy Model은 내년 7월 초에 전체 지원이 종료되니, 아래 내용을 참고해서 해당하는 모델들은 내년 상반기(2024.1H)까지 마이그레이션을 해야 한다. 1) GPT-3.5 Turbo Instruct 모델로 마이그레이션 필요 text-davinci-002 text-davinci-003 code-davinci-002 text..

보안성 검토. 지금 사내 시스템에 GPT를 적용할 때에 많은 실무자들이 겪고 있거나 겪을 예정인 문제 AI 윤리강령이 각 회사 사규에 들어가기 시작하면서 이 부분은 더더욱 커지고 있다. GenAI 덕분에 여러가지로 인해 개발은 빨라졌으나 PoC를 일찍이 마치고도 오픈을 못해 발동동 구르고 있을 조직과 실무자들이 참으로 많을 것으로 예상된다. 대기업에 비해 방화벽 이슈가 상대적으로 약한 스타트업이나 개인 활용용으로 슬랙과 단순 GPT봇을 연결할 경우, 기존 단순히 연동하는 데에는 아무 문제가 없다. 그러나 Slack Bot을 통해 사내 비서 서비스하는 GPT봇을 구현하고 있는 나의 경우는, 지정 네트워크나 사내 메신저 환경이아니라 약간의 한계가 있다. 지금 회사는 이전에 몸담았던 대기업들보다도 정보보안정책..

지난 포스트에서 공유했던 MS 애저톤에서 프롬프트 엔지니어링 업무효율화 영역 수상 후 노하우에 관련한 내용들을 나누는 자리가 있었다. ChatGPT Prompt Guide || 빠른 앱 개발을 위한 Agile ERD구축 : ChatGPT 기반 데이터모델링 3-Step Prompt (챗GPT M 보다 효율적인 GPT 연계 개발을 위해서 하이에나처럼 헤매던 중에 Microsoft와 AIFactory에서 주최하는 챗GPT MS애저톤을 참가할 기회가 생겼다. 마음 같아서는 슬랙이나 기타 3rd Party 솔루션과 연동해 awesomist.tistory.com 지난 글에서 과정을 생각했다면 이번 세미나와 대담시간엔 스터디 외에 실무에서 느꼈던 노하우와 개인적으로 이 기술에 대해서 느꼈던 생각들에 대해서 함께 나누..

클라우드 서비스를 진행하기 전에 네트워크 정책, 사용자 권한(IAM), 보안 정책 및 태깅정책 등 등 클라우드 운영 전반적인 운영에 대한 기초 정책/구조 구성을 하는 것이 랜딩존 구축이다. 클라우드 서버 환경에 띄울 리소스를 선정하는 것부터 어떤 식의 운영정책 / 권한정책 / 네이밍 정책을 할 것인지 전반적으로 가이드를 설정하는 토대 공사 / 철조 공사라고 생각하면 될 것 같다. 사람이 없는 조직에서 클라우드로 무언가 해보려고 하다보면 찔끔찔끔 IaaS 업무들, ETL 구성까지 관여해야 하는 상황이 오기 마련이다. Azure IaaS 체크리스트를 만들다가 정리하는 클라우드 아키텍처 요소들 - AWS든 GCP 든 기능/명칭 거의 동일하나 일부 명칭은 Azure의 네이밍을 중심으로 정리한다. Virtual ..

기존 OpenAI에서 제공하는 영역보다 보다 폭 넓게 작업하기 위해서 Azure API를 사용하면서 하이퍼파라미터를 공부하고 있는데, MS 내에서 제공하는 문서들을 전체적으로 잘 되어있지만 OpenAI 문서와 관련해서는 실질적으로 파이썬 사이드 MS문서와 openai 공식문서 내에 전체 파라미터를 정리한 내용이 촘촘하게 정리되어 있지 않아서 직접 정리해보았다. (닷넷쪽에 하이퍼파라미터는 잘 설명되어있고 파이썬은 누락이 많음) (2023.05.02 기준 , Azure openai 내 최신화된 Hyperparameter) * best_of / logprobs / logit_bias는 현재 2023-03-preview 버전에서 제공되고 있다. * 그 외에 .net의 경우 echo라는 변수를 통해 말 그대로 입..