LMQL

LMQL은 대형 언어 모델(LLM)과의 상호작용을 위한 프로그래밍 언어로, ETH Zurich의 SRI Lab과 기여자들에 의해 개발되었습니다. 이 언어는 타입, 템플릿, 제약 조건, 그리고 최적화 런타임을 사용하여 강력하고 모듈화된 LLM 프롬프팅을 가능하게 합니다. LMQL을 통해 사용자는 Python의 제어 흐름과 문자열 보간을 사용하여 프롬프트를 구성하고 생성할 수 있습니다. 또한, LMQL은 여러 백엔드 간에 코드를 쉽게 전환할 수 있도록 지원하여, 사용자가 단 한 줄의 코드 변경만으로도 다른 LLM 백엔드로 전환할 수 있게 합니다. 이는 OpenAI, 🤗 Transformers, 🦙 llama.cpp 등 다양한 백엔드를 지원합니다. LMQL의 주요 특징 중 하나는 중첩 쿼리를 지원하여, 모듈화된 로컬 지시사항과 프롬프트 구성 요소의 재사용을 가능하게 한다는 점입니다. 이는 복잡한 프롬프트를 더 쉽게 관리하고 재사용할 수 있게 해줍니다. 또한, LMQL은 타입과 정규식을 사용하여 출력 형식을 보장하고, 다중 부분 프롬프트, 분포 측정, Python 지원, 메타 프롬프팅, 도구 증강, 챗봇 등 다양한 기능을 제공합니다. LMQL은 LLM과의 상호작용을 더욱 강력하고 유연하게 만들어주는 도구로, 개발자와 연구자들에게 큰 도움을 줄 수 있습니다.