데이터 분석 도구 플러그인 'datasette-llm' 0.1a11이 로컬 OpenAI 호환 엔드포인트를 지원한다.
원제datasette-llm 0.1a11
Simon Willison원문 원문 보기(새 창)
사실
데이터셋(Datasette)을 위한 LLM 통합 플러그인인 datasette-llm 0.1a11 버전이 공개되었다. 이번 업데이트를 통해 OpenAI와 호환되는 엔드포인트를 지원하여 사용자가 로컬 환경의 모델을 데이터셋 플러그인과 연동할 수 있게 되었다. 사용자는 LM Studio, Ollama, llama.cpp 등 OpenAI 표준 프로토콜을 따르는 로컬 모델 서버를 설정하여 데이터셋 에이전트를 구동할 수 있다.
핵심
- datasette-llm 0.1a11 버전이 발표되어 OpenAI 호환 엔드포인트를 지원한다.
- 로컬 서버에서 실행 중인 모델을 Datasette 플러그인과 연동할 수 있다.
- LM Studio, Ollama, llama.cpp 등 다양한 로컬 모델 환경과 호환된다.
- uvx를 사용해 설정 정보를 포함한 데이터셋 에이전트 구동 예시가 제공된다.
해석
Ollama, LM Studio 등 로컬 모델 런타임 표준이 OpenAI 호환 규격으로 수렴되면서 데이터 분석 도구의 온프레미스 AI 결합이 쉬워졌다. 민감한 내부 데이터를 외부 클라우드로 전송하지 않고도 에이전트 기반 분석 파이프라인을 구축할 수 있다.
11월 16일 회차의 다른 기사
회차 전체 보기- 01앤스로픽이 확산 모델 대신 파이썬 코드로 가상 붓질을 수행하는 모델 '클로드 페이블 5.2'를 공개했다.
- 02메이퇀이 화웨이 가속기 기반으로 학습한 1.6조 파라미터 에이전트 모델 'LongCat-2.5'를 오픈소스로 공개했다.
- 03앤스로픽 CEO가 기업공개를 앞두고 선구매 컴퓨팅 비용 부담에 따른 사업 불확실성을 인정했다.
- 04국내 세무사 시험 수석 합격자가 초소형 카메라와 생성 AI를 악용해 부정행위를 저질렀다고 자백했다.
- 05거대언어모델을 활용한 피싱 및 협상 자동화로 신규 랜섬웨어 공격이 급증했다.
- 06테슬라가 운전대 없는 완전 자율주행 전용 차량 '사이버캡'의 개인 사전 주문을 개시했다.
- 07AT&T가 500개 자율형 에이전트 워크플로우를 운영하며 기업 프로세스를 전면 재설계했다.
- 08데이터 분석 도구 플러그인 'datasette-llm' 0.1a11이 로컬 OpenAI 호환 엔드포인트를 지원한다.