Skip to content

README.md

Latest commit

 

History

History
460 lines (325 loc) · 17.7 KB

README.md

File metadata and controls

460 lines (325 loc) · 17.7 KB

Módulo 08: Prática com Microsoft Foundry Local - Kit Completo para Desenvolvedores

Visão Geral

Microsoft Foundry Local representa a próxima geração de desenvolvimento de IA na edge, oferecendo aos desenvolvedores ferramentas poderosas para criar, implementar e escalar aplicações de IA localmente, mantendo uma integração perfeita com o Azure AI Foundry. Este módulo cobre de forma abrangente o Foundry Local, desde a instalação até o desenvolvimento avançado de agentes.

Tecnologias Principais:

  • CLI e SDK do Microsoft Foundry Local
  • Integração com Azure AI Foundry
  • Inferência de modelos no dispositivo
  • Cache e otimização de modelos locais
  • Arquiteturas baseadas em agentes

Objetivos de Aprendizagem

Ao concluir este módulo, você será capaz de:

  • Dominar o Foundry Local: Instalar, configurar e otimizar para desenvolvimento no Windows 11
  • Implementar Modelos Diversos: Executar modelos phi, qwen, deepseek e GPT localmente com comandos CLI
  • Criar Soluções de Produção: Desenvolver aplicações de IA com engenharia avançada de prompts e integração de dados
  • Aproveitar o Ecossistema Open-Source: Integrar modelos do Hugging Face e contribuições da comunidade
  • Desenvolver Agentes de IA: Construir agentes inteligentes com capacidades de grounding e orquestração
  • Implementar Padrões Empresariais: Criar soluções de IA modulares e escaláveis para implantação em produção

Estrutura da Sessão

1: Introdução ao Foundry Local

Foco: Instalação, configuração do CLI, implementação de modelos e otimização de hardware

Tópicos Principais: Instalação completa • Comandos CLI • Cache de modelos • Aceleração de hardware • Implementação de múltiplos modelos

Exemplo: Introdução ao REST Chat • Integração com OpenAI SDK • Descoberta e Benchmarking de Modelos

Duração: 2-3 horas | Nível: Iniciante

2: Construir Soluções de IA com Azure AI Foundry

Foco: Engenharia avançada de prompts, integração de dados e conectividade com a cloud

Tópicos Principais: Engenharia de prompts • Integração de dados • Fluxos de trabalho no Azure • Otimização de desempenho • Monitorização

Exemplo: Aplicação Chainlit RAG

Duração: 2-3 horas | Nível: Intermediário

3: Modelos Open-Source no Foundry Local

Foco: Integração com Hugging Face, estratégias BYOM e modelos da comunidade

Tópicos Principais: Integração com Hugging Face • Bring-your-own-model • Insights do Model Mondays • Contribuições da comunidade • Seleção de modelos

Exemplo: Orquestração Multi-Agente

Duração: 2-3 horas | Nível: Intermediário

4: Explorar Modelos de Ponta

Foco: Comparação entre LLMs e SLMs, implementação de EdgeAI e demonstrações avançadas

Tópicos Principais: Comparação de modelos • Inferência na edge vs cloud • Phi + ONNX Runtime • Aplicação Chainlit RAG • Otimização com WebGPU

Exemplo: Router de Modelos como Ferramentas

Duração: 3-4 horas | Nível: Avançado

5: Construir Agentes de IA Rapidamente

Foco: Arquiteturas de agentes, prompts de sistema, grounding e orquestração

Tópicos Principais: Padrões de design de agentes • Engenharia de prompts de sistema • Técnicas de grounding • Sistemas multi-agente • Implantação em produção

Exemplo: Orquestração Multi-Agente • Sistema Multi-Agente Avançado

Duração: 3-4 horas | Nível: Avançado

6: Foundry Local - Modelos como Ferramentas

Foco: Soluções modulares de IA, escalabilidade empresarial e padrões de produção

Tópicos Principais: Modelos como ferramentas • Implementação no dispositivo • Integração com SDK/API • Arquiteturas empresariais • Estratégias de escalabilidade

Exemplo: Router de Modelos como Ferramentas • Framework de Ferramentas Foundry

Duração: 3-4 horas | Nível: Especialista

7: Padrões de Integração Direta com API

Foco: Integração pura com REST API sem dependências de SDK para controle máximo

Tópicos Principais: Implementação de cliente HTTP • Autenticação personalizada • Monitorização de saúde de modelos • Respostas em streaming • Tratamento de erros em produção

Exemplo: Cliente API Direto

Duração: 2-3 horas | Nível: Intermediário

8: Aplicação de Chat Nativa no Windows 11

Foco: Construção de aplicações modernas de chat nativas com integração ao Foundry Local

Tópicos Principais: Desenvolvimento com Electron • Fluent Design System • Integração nativa com Windows • Streaming em tempo real • Design de interface de chat

Exemplo: Aplicação de Chat no Windows 11

Duração: 3-4 horas | Nível: Avançado

9: Orquestração Multi-Agente Avançada

Foco: Coordenação sofisticada de agentes, delegação de tarefas especializadas e fluxos de trabalho colaborativos de IA

Tópicos Principais: Coordenação inteligente de agentes • Padrões de chamadas de funções • Comunicação entre agentes • Orquestração de fluxos de trabalho • Mecanismos de garantia de qualidade

Exemplo: Sistema Multi-Agente Avançado

Duração: 4-5 horas | Nível: Especialista

10: Foundry Local como Framework de Ferramentas

Foco: Arquitetura centrada em ferramentas para integrar o Foundry Local em aplicações e frameworks existentes

Tópicos Principais: Integração com LangChain • Funções do Semantic Kernel • Frameworks REST API • Ferramentas CLI • Integração com Jupyter • Padrões de implantação em produção

Exemplo: Framework de Ferramentas Foundry

Duração: 4-5 horas | Nível: Especialista

Pré-requisitos

Requisitos de Sistema

  • Sistema Operativo: Windows 11 (22H2 ou posterior)
  • Memória: 16GB RAM (32GB recomendados para modelos maiores)
  • Armazenamento: 50GB de espaço livre para cache de modelos
  • Hardware: Dispositivo com NPU recomendado (Copilot+ PC), GPU opcional
  • Rede: Internet de alta velocidade para downloads iniciais de modelos

Ambiente de Desenvolvimento

  • Visual Studio Code com extensão AI Toolkit
  • Python 3.10+ e pip
  • Git para controlo de versão
  • PowerShell ou Prompt de Comando
  • Azure CLI (opcional para integração com a cloud)

Conhecimentos Necessários

  • Compreensão básica de conceitos de IA/ML
  • Familiaridade com linha de comando
  • Noções básicas de programação em Python
  • Conceitos de REST API
  • Conhecimento básico de prompts e inferência de modelos

Cronograma do Módulo

Tempo Total Estimado: 30-38 horas

Sessão Área de Foco Exemplos Tempo Complexidade
1 Configuração & Básicos 01, 02, 03 2-3 horas Iniciante
2 Soluções de IA 04 2-3 horas Intermediário
3 Open Source 05 2-3 horas Intermediário
4 Modelos Avançados 06 3-4 horas Avançado
5 Agentes de IA 05, 09 3-4 horas Avançado
6 Ferramentas Empresariais 06, 10 3-4 horas Especialista
7 Integração Direta com API 07 2-3 horas Intermediário
8 Aplicação de Chat no Windows 11 08 3-4 horas Avançado
9 Multi-Agente Avançado 09 4-5 horas Especialista
10 Framework de Ferramentas 10 4-5 horas Especialista

Recursos Principais

Documentação Oficial:

Comunidade & Suporte:

Resultados de Aprendizagem

Ao concluir este módulo, você estará preparado para:

Domínio Técnico

  • Implementar e Gerir: Instalações do Foundry Local em ambientes de desenvolvimento e produção
  • Integrar Modelos: Trabalhar de forma integrada com diversas famílias de modelos da Microsoft, Hugging Face e fontes da comunidade
  • Criar Aplicações: Desenvolver aplicações de IA prontas para produção com recursos avançados e otimizações
  • Desenvolver Agentes: Implementar agentes de IA sofisticados com grounding, raciocínio e integração de ferramentas

Compreensão Estratégica

  • Decisões Arquiteturais: Fazer escolhas informadas entre implantação local e na cloud
  • Otimização de Desempenho: Melhorar o desempenho de inferência em diferentes configurações de hardware
  • Escalabilidade Empresarial: Projetar aplicações que escalam de protótipos locais para implantações empresariais
  • Privacidade e Segurança: Implementar soluções de IA que preservam a privacidade com inferência local

Capacidades de Inovação

  • Prototipagem Rápida: Construir e testar conceitos de aplicações de IA rapidamente em todos os 10 padrões de exemplo
  • Integração Comunitária: Aproveitar modelos open-source e contribuir para o ecossistema
  • Padrões Avançados: Implementar padrões de IA de ponta, incluindo RAG, agentes e integração de ferramentas
  • Domínio de Frameworks: Integração avançada com LangChain, Semantic Kernel, Chainlit e Electron
  • Implantação em Produção: Implantar soluções de IA escaláveis de protótipos locais para sistemas empresariais
  • Desenvolvimento Preparado para o Futuro: Construir aplicações prontas para tecnologias e padrões emergentes de IA

Como Começar

  1. Configuração do Ambiente: Certifique-se de ter o Windows 11 com o hardware recomendado (veja os Pré-requisitos)
  2. Instalar Foundry Local: Siga a Sessão 1 para instalação e configuração completas
  3. Executar o Exemplo 01: Comece com a integração básica de REST API para verificar a configuração
  4. Progredir pelos Exemplos: Complete os exemplos 01-10 para domínio abrangente

Métricas de Sucesso

Acompanhe seu progresso em todos os 10 exemplos abrangentes:

Nível Fundamental (Exemplos 01-03)

  • Instalar e configurar com sucesso o Foundry Local
  • Completar a integração com REST API (Exemplo 01)
  • Implementar compatibilidade com OpenAI SDK (Exemplo 02)
  • Realizar descoberta e benchmarking de modelos (Exemplo 03)

Nível de Aplicação (Exemplos 04-06)

  • Implementar e executar pelo menos 4 famílias de modelos diferentes
  • Construir uma aplicação funcional de chat RAG (Exemplo 04)
  • Criar um sistema de orquestração multi-agente (Exemplo 05)
  • Implementar roteamento inteligente de modelos (Exemplo 06)

Nível de Integração Avançada (Exemplos 07-10)

  • Construir cliente API pronto para produção (Exemplo 07)
  • Desenvolver aplicação de chat nativa no Windows 11 (Exemplo 08)
  • Implementar sistema multi-agente avançado (Exemplo 09)
  • Criar framework abrangente de ferramentas (Exemplo 10)

Indicadores de Domínio

  • Executar com sucesso todos os 10 exemplos sem erros
  • Personalizar pelo menos 3 exemplos para casos de uso específicos
  • Implantar 2+ exemplos em ambientes semelhantes à produção
  • Contribuir com melhorias ou extensões ao código dos exemplos
  • Integrar padrões do Foundry Local em projetos pessoais/profissionais

Guia Rápido - Todos os 10 Exemplos

Configuração do Ambiente (Necessária para Todos os Exemplos)

# 1. Clone and navigate to Module08
cd Module08

# 2. Create Python virtual environment
py -m venv .venv
.\.venv\Scripts\activate

# 3. Install base dependencies
pip install -r requirements.txt

# 4. Install Foundry Local (if not already installed)
winget install Microsoft.FoundryLocal

# 5. Verify Foundry Local installation
foundry --version
foundry model list

Exemplos Fundamentais (01-06)

Exemplo 01: Introdução ao REST Chat

# Start Foundry Local service
foundry model run phi-4-mini

# Run REST chat demo
python samples/01/chat_quickstart.py

Exemplo 02: Integração com OpenAI SDK

# Ensure model is running
foundry status

# Run SDK demo
python samples/02/sdk_quickstart.py

Exemplo 03: Descoberta e Benchmarking de Modelos

# Run comprehensive model testing
samples/03/list_and_bench.cmd

# Or run individual components
foundry model list --available
foundry model download qwen2.5-0.5b
foundry model benchmark phi-4-mini

Exemplo 04: Aplicação Chainlit RAG

# Install Chainlit dependencies
pip install chainlit langchain chromadb

# Start RAG chat application
chainlit run samples/04/app.py -w
# Opens browser at http://localhost:8000

Exemplo 05: Orquestração Multi-Agente

# Run agent coordinator demo
python -m samples.05.agents.coordinator

# Run specific agent examples
python samples/05/examples/specialists_demo.py

Exemplo 06: Router de Modelos como Ferramentas

# Configure environment
set BASE_URL=http://localhost:8000
set GENERAL_MODEL=phi-4-mini
set CODE_MODEL=qwen2.5-7b

# Run intelligent router
python samples/06/router.py "Analyze this Python code for performance issues"

Exemplos de Integração Avançada (07-10)

Exemplo 07: Cliente API Direto

# Navigate to sample directory
cd samples/07

# Install additional dependencies
pip install -r requirements.txt

# Run basic API examples
python examples/basic_usage.py

# Try streaming responses
python examples/streaming.py

# Test production patterns
python examples/production.py

Exemplo 08: Aplicação de Chat no Windows 11

# Navigate to sample directory
cd samples/08

# Install Node.js dependencies
npm install

# Start Electron application
npm start

# Or build for production
npm run build

Exemplo 09: Sistema Multi-Agente Avançado

# Navigate to sample directory
cd samples/09

# Install agent system dependencies
pip install -r requirements.txt

# Run basic coordination example
python examples/basic_coordination.py

# Try complex workflow
python examples/complex_workflow.py

# Interactive agent demo
python examples/interactive_demo.py

Exemplo 10: Framework de Ferramentas Foundry

# Navigate to sample directory
cd samples/10

# Install framework dependencies
pip install -r requirements.txt

# Run basic tools demo
python examples/basic_tools.py

# Start REST API server
python examples/rest_api_server.py
# API available at http://localhost:8080

# Try CLI application
python examples/cli_application.py --help

# Launch Jupyter notebook
jupyter notebook examples/jupyter_notebook.ipynb

# Test LangChain integration
python examples/langchain_demo.py

Resolução de Problemas Comuns

Erros de Conexão com Foundry Local

# Check service status
foundry status

# Restart if needed
foundry restart

# Verify endpoint accessibility
curl http://localhost:5273/v1/models

Problemas de Carregamento de Modelos

# Check available models
foundry model list --cached

# Download missing models
foundry model download phi-4-mini
foundry model download qwen2.5-0.5b

# Force reload if needed
foundry model unload --all
foundry model run phi-4-mini

Problemas de Dependências

# Upgrade pip and reinstall
python -m pip install --upgrade pip
pip install -r requirements.txt --force-reinstall

# For Node.js samples
npm cache clean --force
npm install

Resumo

Este módulo representa o estado da arte no desenvolvimento de IA de ponta, combinando as ferramentas empresariais da Microsoft com a flexibilidade e inovação do ecossistema de código aberto. Ao dominar o Foundry Local através dos 10 exemplos abrangentes, estará posicionado na vanguarda do desenvolvimento de aplicações de IA.

Percurso de Aprendizagem Completo:

  • Fundação (Exemplos 01-03): Integração de API e gestão de modelos
  • Aplicações (Exemplos 04-06): RAG, agentes e encaminhamento inteligente
  • Avançado (Exemplos 07-10): Estruturas de produção e integração empresarial

Para integração com Azure OpenAI (Sessão 2), consulte os ficheiros README individuais dos exemplos para obter as variáveis de ambiente necessárias e as definições de versão da API.

Aviso:
Este documento foi traduzido utilizando o serviço de tradução por IA Co-op Translator. Embora nos esforcemos para garantir a precisão, é importante notar que traduções automáticas podem conter erros ou imprecisões. O documento original na sua língua nativa deve ser considerado a fonte autoritária. Para informações críticas, recomenda-se a tradução profissional realizada por humanos. Não nos responsabilizamos por quaisquer mal-entendidos ou interpretações incorretas decorrentes do uso desta tradução.
⚡