개발과 일상

오랜만에 GPT 관련 글을 쓰는 것 같다. 마지막 글이 2월이니 넉달만에 쓰게 됐다. 이 사이 GPT4o가 나오고, assistant가 v2로 업데이트되었고, 여러 모델들이 업데이트 되었다. AI가 천천히 일상에 스며들고 있는데, 개발하는 입장에서는 좋은 소식이 4월 중 몇가지 들렸다. 사실 GPT4 Model은 API 사용료가 꽤 비싼데, GPT4o 모델을 제공한다는 것과 Batch API를 통해 훨씬 저렴하게 API를 사용할 수 있게 됐다.  하지만 Batch API는 사용 방법이 복잡하고, 제한적이라 정리가 필요할 것 같아서 정리를 하고 가려고 한다. 그렇지만 못할 정도는 아니고 API 개수가 몇 개 안되니가 스텝별로 진행해보자. 1. Create Batchhttps://platform.openai..

벌써 3달전이었다는게 놀라운데, open AI에서 GPT를 이용해 나만의 봇을 만들 수 있는 Builder를 오픈했었다. 그때 글을 하나 썼었는데, 이제는 이름을 My GPTs로 명명한 것 같다. GPTs를 쓰면서 나름 괜찮다고 생각했던 것 중 하나가 외부 API를 연동을 지원한다는 것이다. 작년 중순부터 Function Calling이란 기능으로 GPT가 텍스트로 작성한 API를 사용할 수 있는 기능을 제공하긴했는데, 개발자가 사용하기엔 좀 불편함이 있었다.(키워드 추출을 잘 못해준다던가, 원하는 매서드에 매핑이 정확히 안된다던가 등등) 이걸 GPT 서버에서 API가 필요하다고 판단되면 쓰게끔해준다니, 챗봇의 기능을 비약적으로 향상시킬 수 있다고 생각이 들었다. 그래서 써봤는데... 생각보다 더 좋은 ..

이전 글에서 Open AI의 Assistant API를 사용해봤다. 이전 글에서의 사용법대로 차례대로 포스트맨 요청으로 사용하면 타이밍만 잘 맞추면, 큰 문제가 발생하지 않는다.(그래도 간간히 빈 문자열이 날아오는 경우가 생긴다.) 만약 실사용하게 된다면 아래와 같이 구성되게 될 것이다.// 쓰레드 생성val threads = assistantsClient.createThreads()// 메시지 생성assistantsClient.createMessages(threads.id, MessagesRequestDto("user", "PREP이 뭐야"))// run 생성val run = assistantsClient.createRuns(threads.id, RunsRequestDto(assistantId))// ..

이전에 GPT 웹사이트에서 Assistants(챗봇)를 구축하는 방식에 대해 알아봤었다. 이게... 당시에는 API가 없다고 했는데, Beta로 나와 있었다. (API reference는 주기적으로 열어보는데, Document와 Beta에 있어서 못찾았다) 근데... 이게 뭐가 하고싶은지는 알겠는데 구조가 조금 복잡하다. 각각의 구성요소에 대해서는 나중에 소개하겠지만, 일단 OpenAI 쪽에서 하고 싶은건 Thread라는 저장소를 사용자별로 만들어 주고 싶었던 것 같다. 그래서 그런지 Assistant 밑에 Thread들이 있지 않다. 구조가 그림만봐도 어려운데, 일단은 세부요소 소개와 구현을 해볼 생각이다. Assistants API란? 어시스턴트 API를 사용하면 자체 애플리케이션 내에서 AI 어시스..

해당 기능을 쓰기 위해서는 GPT 유료 버전을 사용해야 합니다. 11월 6일 GPT 리뉴얼 이후로 GPT를 커스터마이징해서 쓸 수 있는 기능을 제공한다. GPT Builder라는 기능인데, 프롬프트를 미리 작성해 원하는 형식의 답변을 받거나 파일을 통해 대규모 지식을 미리 넣어두고 답변을 하도록 만들 수도 있다. 좌측에 Explore를 클릭하면 My GPTs라는 화면이 나오는데 여기서 Create a GPT를 선택한다. 페이지에 진입하면 위와 같은화면이 나온다. 요약하면, 내가 원하는 GPT를 만들어 줄게라는 뜻인데 간단하게 요청사항을 넣으면 거기에 맞는 프롬프트를 자동으로 생성해서 넣어주겠다는 뜻이다. 아래와 같은 요청사항을 넣었다. GPT가 자체적으로 내가 원하는 기능을 제안하고 그게 맞다고 응답했다..

들어가기 앞서 아직 이 기능은 GPT 홈페이지에서는 제공하지 않는다. 아직은 API로만 사용 가능한 것으로 확인된다.(GPT-Turbo를 개발자에게 우선 제공한다고 하긴 했다)  11월 6일부터 GPT-4 Turbo를 사용할 수 있게 되었다. 가장 눈에 띄는건 토큰 수가 12만 8천개 까지 증가했다는 것이다. 11월 6일 샘 알트먼의 발표에 따르면, 토큰 활용 개수를 증가시키고 가격도 인하했다고 한다.  또한, 23년 4월까지 학습시킨 데이터를 기반으로 응답을 주기 때문에 기존 22년 1월까지의 데이터에 비해 비교적 최신 데이터로 갱신 되었다고 한다. 그리고 몇 가지 기능이 추가 되었는데, 그 중 하나가  모델들을 살펴보면, gpt-4-vision-preview가 추가 되었는데 이 모델을 통해 이미지 인..

10월 두번째 스프린트로 진행한 미니프로젝트에서 발생한 일. 목요일 상용 서버 배포를 진행하고 테스트를 충분히한 후에, 마음 놓고 퇴근했다. 다음날 10월 20일 금요일 여유있게 출근하고, 아침 9시경 별 생각없이 어제 배포된게 잘 돌고 있나 테스트를 진행해봤다. 슬프게도 먹통이었다. dev서버와 qa서버에서 동일한 현상이 나타나는 걸 확인하고, 로컬에서 바로 테스트를 진행 다행히 바로 어떤 문제 상황인지 확인이 됐다. feign.FeignException$InternalServerError: [500 Internal Server Error] during [POST] to [https://api.openai.com/v1/embeddings] [OpenAiFeignClient#createEmbedding(..

해당 기능을 쓰기 위해서는 GPT 유료 버전을 사용해야 합니다. 기존에도 GPT는 이미지 생성하는 API를 제공하긴 했었다. /v1/images/generations API로 제공했었고, 이 내용은 여기에서 확인해 볼 수 있다. 그런데 9월 말(관련 기사)에 DALL E 3를 Chat GPT에서 사용할 수 있게 되었다. chatGPT는 유료버전을 사용할 때, 2023년 11월 업데이트 이후로 DALLE 4를 지원합니다. 이미지 생성 방법은 간단하다. 그냥 GPT에 "이미지를 그려줘"라는 뉘앙스를 담아서(2024.1.12일 추가) 질문하듯이 질문을 하면 된다. 아래부터는 DALLE 3를 썼을 때입니다. 2023년 11월 이전에 질문한 결과 이지만 질문 방식은 지금과 동일합니다. 다양한 화풍의 이미지를 생성..