Skip to content

README.md

Latest commit

 

History

History
257 lines (174 loc) · 22.9 KB

README.md

File metadata and controls

257 lines (174 loc) · 22.9 KB

အပိုင်း 08: Microsoft Foundry Local - အပြည့်အစုံ Developer Toolkit ကို လက်တွေ့ကျကျ လေ့လာခြင်း

အကျဉ်းချုပ်

Microsoft Foundry Local သည် edge AI ဖွံ့ဖြိုးတိုးတက်မှု၏ နောက်ဆုံးမျိုးဆက်ကို ကိုယ်စားပြုပြီး၊ Azure AI Foundry နှင့် အဆက်မပြတ် ပေါင်းစည်းမှုကို ထိန်းသိမ်းထားသည့်အပြင်၊ ဒေသတွင်းတွင် AI အက်ပလီကေးရှင်းများကို ဖန်တီး၊ တင်သွင်း၊ နှင့် အတိုင်းအတာချဲ့ထွင်ရန် အင်အားကြီးသော ကိရိယာများကို ဖွံ့ဖြိုးသူများကို ပေးစွမ်းပါသည်။ ဤအပိုင်းတွင် Foundry Local ကို တပ်ဆင်ခြင်းမှ စ၍ အဆင့်မြင့် agent ဖွံ့ဖြိုးတိုးတက်မှုအထိ အကျယ်အဝန်းကို ဖုံးလွှမ်းထားပါသည်။

အဓိကနည်းပညာများ:

  • Microsoft Foundry Local CLI နှင့် SDK
  • Azure AI Foundry integration
  • On-device model inference
  • ဒေသတွင်းတွင် မော်ဒယ် caching နှင့် optimization
  • Agent-based architectures

သင်ယူရမည့်ရည်ရွယ်ချက်များ

ဤအပိုင်းကို ပြီးမြောက်စွာ လေ့လာပြီးပါက၊ သင်သည် -

  • Foundry Local ကို ကျွမ်းကျင်စွာ အသုံးပြုနိုင်မည်: Windows 11 ဖွံ့ဖြိုးတိုးတက်မှုအတွက် တပ်ဆင်ခြင်း၊ ဖွဲ့စည်းခြင်း၊ နှင့် optimization ပြုလုပ်ခြင်း
  • မော်ဒယ်များကို တင်သွင်းနိုင်မည်: phi, qwen, deepseek, နှင့် GPT မော်ဒယ်များကို CLI commands ဖြင့် ဒေသတွင်းတွင် အောင်မြင်စွာ run ပြုလုပ်ခြင်း
  • ထုတ်လုပ်မှုအဆင့်ဖြေရှင်းချက်များ ဖန်တီးနိုင်မည်: အဆင့်မြင့် prompt engineering နှင့် ဒေတာ integration ဖြင့် AI အက်ပလီကေးရှင်းများ ဖန်တီးခြင်း
  • Open-Source Ecosystem ကို အသုံးချနိုင်မည်: Hugging Face မော်ဒယ်များနှင့် community contributions ကို ပေါင်းစည်းခြင်း
  • AI Agents ဖွံ့ဖြိုးတိုးတက်မှု: grounding နှင့် orchestration စွမ်းရည်များပါဝင်သည့် ဉာဏ်ရည်ရှိသော agents ဖန်တီးခြင်း
  • Enterprise Patterns ကို အကောင်အထည်ဖော်နိုင်မည်: ထုတ်လုပ်မှု deployment အတွက် modular, scalable AI ဖြေရှင်းချက်များ ဖန်တီးခြင်း

အစီအစဉ်ဖွဲ့စည်းမှု

1: Foundry Local ကို စတင်အသုံးပြုခြင်း

အဓိကအချက်အလက်: တပ်ဆင်ခြင်း၊ CLI setup, မော်ဒယ် deployment, နှင့် hardware optimization

အဓိကအကြောင်းအရာများ: အပြည့်အစုံတပ်ဆင်ခြင်း • CLI commands • မော်ဒယ် caching • Hardware acceleration • Multi-model deployment

နမူနာ: REST Chat Quickstart • OpenAI SDK Integration • Model Discovery & Benchmarking

ကြာမြင့်ချိန်: 2-3 နာရီ | အဆင့်: Beginner

2: Azure AI Foundry ဖြင့် AI Solutions ဖန်တီးခြင်း

အဓိကအချက်အလက်: အဆင့်မြင့် prompt engineering, ဒေတာ integration, နှင့် cloud connectivity

အဓိကအကြောင်းအရာများ: Prompt engineering • ဒေတာ integration • Azure workflows • Performance optimization • Monitoring

နမူနာ: Chainlit RAG Application

ကြာမြင့်ချိန်: 2-3 နာရီ | အဆင့်: Intermediate

3: Open-Source Models Foundry Local

အဓိကအချက်အလက်: Hugging Face integration, BYOM strategies, နှင့် community models

အဓိကအကြောင်းအရာများ: HuggingFace integration • Bring-your-own-model • Model Mondays insights • Community contributions • Model selection

နမူနာ: Multi-Agent Orchestration

ကြာမြင့်ချိန်: 2-3 နာရီ | အဆင့်: Intermediate

4: Cutting-Edge Models ကို လေ့လာခြင်း

အဓိကအချက်အလက်: LLMs vs SLMs, EdgeAI implementation, နှင့် အဆင့်မြင့် demos

အဓိကအကြောင်းအရာများ: Model comparison • Edge vs cloud inference • Phi + ONNX Runtime • Chainlit RAG app • WebGPU optimization

နမူနာ: Models-as-Tools Router

ကြာမြင့်ချိန်: 3-4 နာရီ | အဆင့်: Advanced

5: AI-Powered Agents ကို အလျင်အမြန် ဖန်တီးခြင်း

အဓိကအချက်အလက်: Agent architectures, system prompts, grounding, နှင့် orchestration

အဓိကအကြောင်းအရာများ: Agent design patterns • System prompt engineering • Grounding techniques • Multi-agent systems • Production deployment

နမူနာ: Multi-Agent Orchestration • Advanced Multi-Agent System

ကြာမြင့်ချိန်: 3-4 နာရီ | အဆင့်: Advanced

6: Foundry Local - Models as Tools

အဓိကအချက်အလက်: Modular AI solutions, enterprise scaling, နှင့် production patterns

အဓိကအကြောင်းအရာများ: Models as tools • On-device deployment • SDK/API integration • Enterprise architectures • Scaling strategies

နမူနာ: Models-as-Tools Router • Foundry Tools Framework

ကြာမြင့်ချိန်: 3-4 နာရီ | အဆင့်: Expert

7: Direct API Integration Patterns

အဓိကအချက်အလက်: SDK မလိုအပ်သော pure REST API integration

အဓိကအကြောင်းအရာများ: HTTP client implementation • Custom authentication • Model health monitoring • Streaming responses • Production error handling

နမူနာ: Direct API Client

ကြာမြင့်ချိန်: 2-3 နာရီ | အဆင့်: Intermediate

8: Windows 11 Native Chat Application

အဓိကအချက်အလက်: Foundry Local integration ဖြင့် ခေတ်မီ native chat applications ဖန်တီးခြင်း

အဓိကအကြောင်းအရာများ: Electron development • Fluent Design System • Native Windows integration • Real-time streaming • Chat interface design

နမူနာ: Windows 11 Chat Application

ကြာမြင့်ချိန်: 3-4 နာရီ | အဆင့်: Advanced

9: Advanced Multi-Agent Orchestration

အဓိကအချက်အလက်: Agent coordination, specialized task delegation, နှင့် collaborative AI workflows

အဓိကအကြောင်းအရာများ: Intelligent agent coordination • Function calling patterns • Cross-agent communication • Workflow orchestration • Quality assurance mechanisms

နမူနာ: Advanced Multi-Agent System

ကြာမြင့်ချိန်: 4-5 နာရီ | အဆင့်: Expert

10: Foundry Local as Tools Framework

အဓိကအချက်အလက်: Foundry Local ကို ရှိပြီးသား applications နှင့် frameworks တွင် ပေါင်းစည်းခြင်း

အဓိကအကြောင်းအရာများ: LangChain integration • Semantic Kernel functions • REST API frameworks • CLI tools • Jupyter integration • Production deployment patterns

နမူနာ: Foundry Tools Framework

ကြာမြင့်ချိန်: 4-5 နာရီ | အဆင့်: Expert

လိုအပ်ချက်များ

စနစ်လိုအပ်ချက်များ

  • Operating System: Windows 11 (22H2 သို့မဟုတ် အထက်)
  • Memory: 16GB RAM (32GB မော်ဒယ်များအတွက် အကြံပြုထားသည်)
  • Storage: မော်ဒယ် caching အတွက် 50GB အခမဲ့နေရာ
  • Hardware: NPU-enabled device (Copilot+ PC), GPU optional
  • Network: မော်ဒယ်များကို download ပြုလုပ်ရန် အမြန်နှုန်းမြင့် internet

ဖွံ့ဖြိုးတိုးတက်မှု ပတ်ဝန်းကျင်

  • Visual Studio Code with AI Toolkit extension
  • Python 3.10+ နှင့် pip
  • Git for version control
  • PowerShell သို့မဟုတ် Command Prompt
  • Azure CLI (optional for cloud integration)

အသိပညာလိုအပ်ချက်များ

  • AI/ML အခြေခံအကြောင်းအရာများကို နားလည်မှု
  • Command line အသုံးပြုမှု
  • Python programming အခြေခံ
  • REST API အကြောင်းအရာများ
  • Prompting နှင့် model inference အခြေခံအသိပညာ

Module Timeline

စုစုပေါင်း ခန့်မှန်းချိန်: 30-38 နာရီ

Session အဓိကအချက်အလက် နမူနာများ ကြာမြင့်ချိန် အဆင့်
1 Setup & Basics 01, 02, 03 2-3 နာရီ Beginner
2 AI Solutions 04 2-3 နာရီ Intermediate
3 Open Source 05 2-3 နာရီ Intermediate
4 Advanced Models 06 3-4 နာရီ Advanced
5 AI Agents 05, 09 3-4 နာရီ Advanced
6 Enterprise Tools 06, 10 3-4 နာရီ Expert
7 Direct API Integration 07 2-3 နာရီ Intermediate
8 Windows 11 Chat App 08 3-4 နာရီ Advanced
9 Advanced Multi-Agent 09 4-5 နာရီ Expert
10 Tools Framework 10 4-5 နာရီ Expert

အဓိကရင်းမြစ်များ

တရားဝင် Documentation:

Community & Support:

သင်ယူပြီးရရှိမည့်ရလဒ်များ

ဤ module ကို ပြီးမြောက်စွာ လေ့လာပြီးပါက၊ သင်သည် -

နည်းပညာကျွမ်းကျင်မှု

  • Deploy နှင့် Manage: Foundry Local installations ကို ဖွံ့ဖြိုးတိုးတက်မှုနှင့် ထုတ်လုပ်မှု ပတ်ဝန်းကျင်များတွင် အောင်မြင်စွာ စီမံခန့်ခွဲခြင်း
  • Integrate Models: Microsoft, Hugging Face, နှင့် community sources မှ မော်ဒယ်မျိုးစုံနှင့် seamless အလုပ်လုပ်နိုင်ခြင်း
  • Build Applications: အဆင့်မြင့် features နှင့် optimizations ပါဝင်သည့် ထုတ်လုပ်မှုအဆင့် AI applications ဖန်တီးခြင်း
  • Develop Agents: grounding, reasoning, နှင့် tool integration ပါဝင်သည့် အဆင့်မြင့် AI agents ဖန်တီးခြင်း

မဟာဗျူဟာနားလည်မှု

  • Architecture Decisions: ဒေသတွင်း vs cloud deployment အကြား informed ရွေးချယ်မှုများ ပြုလုပ်နိုင်ခြင်း
  • Performance Optimization: hardware configurations မျိုးစုံအတွက် inference performance ကို optimize ပြုလုပ်ခြင်း
  • Enterprise Scaling: ဒေသတွင်း prototype များမှ enterprise deployments အထိ applications ကို design ပြုလုပ်ခြင်း
  • Privacy နှင့် Security: ဒေသတွင်း inference ဖြင့် privacy-preserving AI solutions ကို အကောင်အထည်ဖော်ခြင်း

ဆန်းသစ်မှုစွမ်းရည်

  • Rapid Prototyping: AI application concepts များကို အလျင်အမြန် ဖန်တီးပြီး စမ်းသပ်နိုင်ခြင်း
  • Community Integration: Open-source မော်ဒယ်များကို အသုံးချပြီး ecosystem ကို ပံ့ပိုးနိုင်ခြင်း
  • Advanced Patterns: RAG, agents, နှင့် tool integration ပါဝင်သည့် cutting-edge AI patterns များကို အကောင်အထည်ဖော်နိုင်ခြင်း
  • Framework Mastery: LangChain, Semantic Kernel, Chainlit, နှင့် Electron နှင့် expert-level integration
  • Production Deployment: ဒေသတွင်း prototype များမှ enterprise systems အထိ scalable AI solutions ကို deploy ပြုလုပ်ခြင်း
  • Future-Ready Development: ပေါ်ပေါက်လာမည့် AI နည်းပညာများနှင့် patterns များအတွက် အသင့်ဖြစ်သော applications ဖန်တီးခြင်း

စတင်အသုံးပြုခြင်း

  1. Environment Setup: Windows 11 နှင့် အကြံပြုထားသော hardware (Prerequisites ကို ကြည့်ပါ)
  2. Foundry Local ကို တပ်ဆင်ပါ: Session 1 ကို လိုက်နာပြီး တပ်ဆင်ခြင်းနှင့် configuration ပြုလုပ်ပါ
  3. Sample 01 ကို Run ပြုလုပ်ပါ: Setup ကို အတည်ပြုရန် basic REST API integration ဖြင့် စတင်ပါ
  4. Samples များကို ဆက်လက် လေ့လာပါ: Comprehensive mastery ရရှိရန် samples 01-10 ကို ပြီးမြောက်စွာ လေ့လာပါ

အောင်မြင်မှုကို တိုင်းတာခြင်း

10 ခုလုံးကို အကျယ်အဝန်း လေ့လာပြီး သင်၏ progress ကို tracking ပြုလုပ်ပါ:

Foundation Level (Samples 01-03)

  • Foundry Local ကို အောင်မြင်စွာ တပ်ဆင်ပြီး configure ပြုလုပ်ခြင်း
  • REST API integration (Sample 01) ကို ပြီးမြောက်စွာ ပြုလုပ်ခြင်း
  • OpenAI SDK compatibility (Sample 02) ကို အကောင်အထည်ဖော်ခြင်း
  • Model discovery နှင့် benchmarking (Sample 03) ကို ပြုလုပ်ခြင်း

Application Level (Samples 04-06)

  • မော်ဒယ်မျိုးစုံ 4 ခုကို deploy နှင့် run ပြုလုပ်ခြင်း
  • RAG chat application (Sample 04) ကို ဖန်တီးခြင်း
  • Multi-agent orchestration system (Sample 05) ကို ဖန်တီးခြင်း
  • Intelligent model routing (Sample 06) ကို အကောင်အထည်ဖော်ခြင်း

Advanced Integration Level (Samples 07-10)

  • Production-ready API client (Sample 07) ကို ဖန်တီးခြင်း
  • Windows 11 native chat application (Sample 08) ကို ဖွံ့ဖြိုးတိုးတက်မှု
  • Advanced multi-agent system (Sample 09) ကို ဖန်တီးခြင်း
  • Comprehensive tools framework (Sample 10) ကို ဖန်တီးခြင်း

Mastery Indicators

  • 10 ခုလုံးကို error မရှိဘဲ run ပြုလုပ်နိုင်ခြင်း
  • နမူနာ 3 ခုကို သီးသန့်အသုံးအတွက် customize ပြုလုပ်ခြင်း
  • Production-like environments တွင် နမူနာ 2+ ခုကို deploy ပြုလုပ်ခြင်း
  • နမူနာ code ကို တိုးတက်မှုများ သို့မဟုတ် extension များဖြင့် ပံ့ပိုးခြင်း
  • Foundry Local patterns များကို ကိုယ်ပိုင်/ပရော်ဖက်ရှင် project များတွင် ပ ဤမော်ဂျူးသည် အနား AI ဖွံ့ဖြိုးတိုးတက်မှု၏ နောက်ဆုံးနည်းပညာကို ကိုယ်စားပြုထားပြီး Microsoft ၏ စီးပွားရေးအဆင့်မြင့်ကိရိယာများနှင့် ဖွင့်လှစ်အရင်းအမြစ်ပတ်ဝန်းကျင်၏ လွယ်လွယ်ကူကူနှင့် ဖန်တီးမှုကို ပေါင်းစပ်ထားသည်။ Foundry Local ကို ၁၀ ခုလုံး စုံလင်စွာ လေ့လာပြီး ကျွမ်းကျင်မှုရရှိပါက AI အက်ပလီကေးရှင်း ဖွံ့ဖြိုးတိုးတက်မှုတွင် အရှေ့တန်းမှ ရပ်တည်နိုင်မည်ဖြစ်သည်။

လေ့လာမှု လမ်းကြောင်း အပြည့်အစုံ:

  • အခြေခံ (နမူနာ 01-03): API ပေါင်းစည်းမှုနှင့် မော်ဒယ် စီမံခန့်ခွဲမှု
  • အက်ပလီကေးရှင်းများ (နမူနာ 04-06): RAG, အေးဂျင့်များနှင့် ဉာဏ်ရည်ရှိသော လမ်းကြောင်းချမှတ်မှု
  • အဆင့်မြင့် (နမူနာ 07-10): ထုတ်လုပ်မှု ဖောင်ဒေးရှင်းများနှင့် စီးပွားရေး ပေါင်းစည်းမှု

Azure OpenAI ပေါင်းစည်းမှု (Session 2) အတွက် လိုအပ်သော ပတ်ဝန်းကျင် အပြောင်းအလဲများနှင့် API ဗားရှင်း အပြင်အဆင်များကို နမူနာတစ်ခုချင်းစီ၏ README ဖိုင်များတွင် ကြည့်ရှုပါ။

အကြောင်းကြားချက်:
ဤစာရွက်စာတမ်းကို AI ဘာသာပြန်ဝန်ဆောင်မှု Co-op Translator ကို အသုံးပြု၍ ဘာသာပြန်ထားပါသည်။ ကျွန်ုပ်တို့သည် တိကျမှန်ကန်မှုအတွက် ကြိုးစားနေသော်လည်း၊ အလိုအလျောက် ဘာသာပြန်မှုများတွင် အမှားများ သို့မဟုတ် မမှန်ကန်မှုများ ပါဝင်နိုင်သည်ကို သတိပြုပါ။ မူရင်းဘာသာစကားဖြင့် ရေးသားထားသော စာရွက်စာတမ်းကို အာဏာတရားရှိသော အရင်းအမြစ်အဖြစ် သတ်မှတ်သင့်ပါသည်။ အရေးကြီးသော အချက်အလက်များအတွက် လူက ဘာသာပြန်မှုကို အသုံးပြုရန် အကြံပြုပါသည်။ ဤဘာသာပြန်မှုကို အသုံးပြုခြင်းမှ ဖြစ်ပေါ်လာသော အလွဲအလွတ်များ သို့မဟုတ် အနားယူမှားမှုများအတွက် ကျွန်ုပ်တို့သည် တာဝန်မယူပါ။
⚡