Agents-Flex: Um Framework Java para Aplicações LLM
Agents-Flex é um framework Java projetado para aplicações de Large Language Models (LLM). Ele se destaca por ser leve, simples e apresentar um design mais elegante.
Core Features:
- LLMs Connector: Inclui uma variedade de protocolos de rede para conectar LLM, como HTTP, SSE e WS, permitindo uma fácil conexão com vários modelos, incluindo OpenAI, LLama e Outros AI.
- Prompt: Oferece um conjunto rico de templates de desenvolvimento e estruturas de Prompt, como FEW-SHOT, CRISPE, BROKE e ICIO. Os desenvolvedores também podem personalizar seus próprios templates de Prompt.
- Function Calling: Possui um componente de Function Calling muito flexível, que suporta definições de métodos locais, análise, callbacks através de LLM e execução de métodos locais para obter resultados.
- Document: Oferece componentes Loader, Parser e Splitter para documentos. Cada componente possui várias implementações, facilitando o carregamento de dados da web, arquivos locais, bancos de dados e vários tipos de dados.
- Memory: O módulo Memory é dividido em MessageMemory e ContextMemory, usado para registrar mensagens de chat e contextos de execução da Chain. Os desenvolvedores podem estender o módulo Memory por herança para alcançar funcionalidades mais ricas.
- Embedding: Inclui amplas capacidades de embedding e extensões. Os desenvolvedores podem implementar a interface Embedding para expandir seus algoritmos de embedding privados e suporte.
- Vector Store: Suporta vários bancos de dados de vetores. Os desenvolvedores também podem implementar a interface VectorStore para expandir seus serviços de VectorStore privados.
- Agent: Define uma implementação abstrata de Agents. Os desenvolvedores podem usar a Chain de Agents para criar aplicações mais interativas.
- Chain: A Chain do Agents-Flex inclui Chains sequenciais, assíncronas e de loop, auxiliando os desenvolvedores a lidar com vários cenários.
Agents-Flex é lançado sob a Licença Apache. Copyright © 2022-present Agents-Flex. 黔ICP备19009310号-13
