Skip to content

Latest commit

 

History

History
320 lines (239 loc) · 23.4 KB

File metadata and controls

320 lines (239 loc) · 23.4 KB

EdgeAI för nybörjare

Kursomslagsbild

GitHub-bidragare GitHub-ärenden GitHub-pullförfrågningar PRs välkomna

GitHub-övervakare GitHub-forkar GitHub-stjärnor

Microsoft Foundry Discord

Följ dessa steg för att komma igång med att använda dessa resurser:

  1. Fork:a arkivet: Klicka GitHub-forkar
  2. Klona arkivet: git clone https://github.com/microsoft/edgeai-for-beginners.git
  3. Gå med i Azure AI Foundry Discord för att träffa experter och andra utvecklare

🌐 Fler-språkigt stöd

Stöds via GitHub Action (Automatiserat & Alltid Uppdaterat)

Arabiska | Bengali | Bulgarska | Burmese (Myanmar) | Kinesiska (Förenklad) | Kinesiska (Traditionell, Hong Kong) | Kinesiska (Traditionell, Macau) | Kinesiska (Traditionell, Taiwan) | Kroatiska | Tjeckiska | Danska | Holländska | Estniska | Finska | Franska | Tyska | Grekiska | Hebreiska | Hindi | Ungerska | Indonesiska | Italienska | Japanska | Kannada | Khmer | Koreanska | Litauiska | Malajiska | Malayalam | Marathi | Nepali | Nigeriansk Pidgin | Norska | Persiska (Farsi) | Polska | Portugisiska (Brasilien) | Portugisiska (Portugal) | Punjabi (Gurmukhi) | Rumänska | Ryska | Serbiska (Kyrilliska) | Slovakiska | Slovenska | Spanska | Swahili | Svenska | Tagalog (Filippinska) | Tamil | Telugu | Thailändska | Turkiska | Ukrainska | Urdu | Vietnamesiska

Föredrar du att klona lokalt?

Detta arkiv innehåller över 50 språköversättningar som avsevärt ökar nedladdningsstorleken. För att klona utan översättningar, använd sparsam utcheckning:

Bash / macOS / Linux:

git clone --filter=blob:none --sparse https://github.com/microsoft/edgeai-for-beginners.git
cd edgeai-for-beginners
git sparse-checkout set --no-cone '/*' '!translations' '!translated_images'

CMD (Windows):

git clone --filter=blob:none --sparse https://github.com/microsoft/edgeai-for-beginners.git
cd edgeai-for-beginners
git sparse-checkout set --no-cone "/*" "!translations" "!translated_images"

Detta ger dig allt du behöver för att slutföra kursen med en mycket snabbare nedladdning.

Om du vill ha ytterligare översättningsspråk stöds de listade här

Introduktion

Välkommen till EdgeAI för nybörjare – din omfattande resa in i den transformerande världen av Edge Artificiell Intelligens. Den här kursen överbryggar klyftan mellan kraftfulla AI-möjligheter och praktisk, verklig användning på edge-enheter, och ger dig möjlighet att utnyttja AI:s potential direkt där data genereras och beslut måste fattas.

Vad Du Kommer Behärska

Denna kurs tar dig från grundläggande koncept till produktionsklara implementationer, och täcker:

  • Små språkmodeller (SLMs) optimerade för edge-distribution
  • Hårdvaru-medveten optimering över olika plattformar
  • Real-tidsinferens med integritetsbevarande kapacitet
  • Strategier för produktionsdistribution för företagsanvändningar

Varför EdgeAI är Viktigt

Edge AI representerar ett paradigmskifte som hanterar viktiga moderna utmaningar:

  • Integritet & Säkerhet: Bearbeta känslig data lokalt utan molnexponering
  • Prestanda i realtid: Eliminera nätverkslatens för tidkritiska applikationer
  • Kostnadseffektivitet: Minska bandbredd och molndatakostnader
  • Robust drift: Upprätthåll funktionalitet vid nätverksavbrott
  • Reglerings efterlevnad: Uppfyll krav på datasuveränitet

Edge AI

Edge AI avser att köra AI-algoritmer och språkmodeller lokalt på hårdvara, nära där data genereras utan att förlita sig på molnresurser för inferens. Det minskar latens, förbättrar integriteten och möjliggör beslut i realtid.

Kärnprinciper:

  • Inferens på enheten: AI-modeller körs på edge-enheter (telefoner, routrar, mikrokontroller, industri-PC:er)
  • Offline-förmåga: Fungerar utan stadig internetuppkoppling
  • Låg latens: Omedelbara svar anpassade för realtidssystem
  • Datasuveränitet: Håller känslig data lokal, vilket förbättrar säkerhet och efterlevnad

Små Språkmodeller (SLMs)

SLMs som Phi-4, Mistral-7B och Gemma är optimerade versioner av större LLMs – tränade eller destillerade för:

  • Minskat minnesavtryck: Effektiv användning av begränsat minne på edge-enheter
  • Lägre beräkningsbehov: Optimerade för CPU- och edge GPU-prestanda
  • Snabbare uppstartstider: Snabb initialisering för responsiva applikationer

De öppnar kraftfulla NLP-funktioner samtidigt som de möter begränsningarna för:

  • Inbyggda system: IoT-enheter och industriella styrsystem
  • Mobila enheter: Smartphones och surfplattor med offline-funktionalitet
  • IoT-enheter: Sensorer och smarta enheter med begränsade resurser
  • Edge-servrar: Lokala bearbetningsenheter med begränsade GPU-resurser
  • Persondatorer: Stationära och bärbara datorer i distributionsscenarier

Kursmoduler & Navigering

Modul Ämne Fokusområde Nyckelinnehåll Nivå Varaktighet
📖 00 Introduktion till EdgeAI Grund & Kontext EdgeAI Översikt • Branschapplikationer • SLM-introduktion • Lärandemål Nybörjare 1-2 tim
📚 01 Grundläggande EdgeAI Jämförelse moln vs edge AI EdgeAI Grunder • Verkliga fallstudier • Implementeringsguide • Edge-distribution Nybörjare 3-4 tim
🧠 02 SLM Modellgrunder Modellfamiljer & arkitektur Phi-familjen • Qwen-familjen • Gemma-familjen • BitNET • μModel • Phi-Silica Nybörjare 4-5 tim
🚀 03 SLM-distribution praktik Lokal & moln-distribution Avancerat lärande • Lokal miljö • Moln-distribution Mellanliggande 4-5 tim
⚙️ 04 Verktyg för modelloptimering Plattform-överskridande optimering Introduktion • Llama.cpp • Microsoft Olive • OpenVINO • Apple MLX • Arbetsflödessyntes Mellanliggande 5-6 tim
🔧 05 SLMOps produktion Produktionsdrift SLMOps introduktion • Modelldestillering • Finjustering • Produktionsdistribution Avancerad 5-6 tim
🤖 06 AI-agenter & Funktionsanrop Agentramverk & MCP Agentintroduktion • Funktionsanrop • Modellkontextprotokoll Avancerad 4-5 tim
💻 07 Plattformsimplementation Plattformexempel AI Toolkit • Foundry Local • Windows-utveckling Avancerad 3-4 tim
🏭 08 Foundry Local Toolkit Produktions-exempel Exempelapplikationer (se nedan) Expert 8-10 tim

🏭 Modul 08: Exempelapplikationer

🎓 Workshop: Praktisk inlärningsväg

Omfattande praktiska workshopmaterial med produktionsklara implementationer:

  • Workshop-guide - Kompletta lärandemål, resultat och resursnavigering
  • Python-exempel (6 sessioner) - Uppdaterade med bästa praxis, felhantering och omfattande dokumentation
  • Jupyter-notebooks (8 interaktiva) - Steg-för-steg-handledningar med benchmark och prestandaövervakning
  • Sessionsguider - Detaljerade markdown-guider för varje workshop-session
  • Valideringsverktyg - Skript för att verifiera kodkvalitet och köra röktester

Vad Du Kommer Bygga:

  • Lokala AI-chattapplikationer med streaming-stöd
  • RAG-pipelines med kvalitetsutvärdering (RAGAS)
  • Multi-modell benchmark och jämförelseverktyg
  • Multi-agent orkestreringssystem
  • Intelligent modellroutning med uppgiftsbaserat val

🎙️ Workshop För Agentic: Praktiskt - AI Podcast Studio

Bygg en AI-driven podcastproduktionspipeline från grunden! Denna immersiva workshop lär dig skapa ett komplett multi-agent system som förvandlar idéer till professionella podcastepisoder.

🎬 Starta AI Podcast Studio Workshop

Ditt uppdrag: Lansera "Future Bytes" — en teknikpodcast som drivs helt av AI-agenter du själv bygger. Inga molnberoenden, inga API-kostnader — allt körs lokalt på din maskin.

Vad som gör detta unikt:

  • 🤖 Verklig multi-agent orkestrering - Bygg specialiserade AI-agenter som forskar, skriver och producerar ljud
  • 🎯 Komplett produktionspipeline - Från ämnesval till slutgiltig podcastljudsproduktion
  • 💻 100% Lokal distribution - Använder Ollama och lokala modeller (Qwen-3-8B) för full integritet och kontroll
  • 🎤 Text-till-tal integration - Förvandla manus till naturligt klingande flerpersonssamtal
  • ✋ Mänsklig-in-the-loop arbetsflöden - Godkännandepunkter säkerställer kvalitet samtidigt som automatiseringen bibehålls

Tre-akters lärupplevelse:

Akt Fokus Nyckelfärdigheter Varaktighet
Akt 1: Möt dina AI-assistenter Bygg din första AI-agent Verktygsintegration • Webb-sökning • Problemlösning • Agentiskt resonemang 2-3 tim
Akt 2: Sätt ihop ditt produktionsteam Orkestrera flera agenter Teamkoordination • Godkännande-flöden • DevUI-gränssnitt • Mänsklig tillsyn 3-4 tim
Akt 3: Ge liv åt din podcast Generera podcastljud Text-till-tal • Flerpersonssyntes • Långformat ljud • Fullständig automatisering 2-3 tim

Använda teknologier:

  • Microsoft Agent Framework - Multi-agent orkestrering och koordinering
  • Ollama - Lokal AI-modell runtime (inget moln behövs)
  • Qwen-3-8B - Öppen källkod språkmodell optimerad för agentiska uppgifter
  • Text-till-tal API:er - Naturlig röstsynthes för podcastgenerering

Hårdvarustöd:

  • CPU-läge - Fungerar på vilken modern dator som helst (8GB+ RAM rekommenderas)
  • 🚀 GPU-acceleration - Betydligt snabbare inferens med NVIDIA/AMD GPU:er
  • NPU-stöd - Nästa generations neuralt processorenhets-acceleration

Perfekt för:

  • Utvecklare som lär sig multi-agent AI-system
  • Alla intresserade av AI-automatisering och arbetsflöden
  • Innehållsskapare som utforskar AI-assisterad produktion
  • Studenter som studerar praktiska AI-orkestreringsmönster

Börja bygga: 🎙️ AI Podcast Studio Workshop →

📊 Sammanfattning av lärväg

  • Total varaktighet: 36-45 timmar
  • Nybörjarväg: Moduler 01-02 (7-9 timmar)
  • Mellanväg: Moduler 03-04 (9-11 timmar)
  • Avancerad väg: Moduler 05-07 (12-15 timmar)
  • Expertväg: Modul 08 (8-10 timmar)

Vad du kommer att bygga

🎯 Kärnkompetenser

  • Edge AI-arkitektur: Designa lokalt-först AI-system med molnintegration
  • Modelloptimering: Kvantisera och komprimera modeller för edge-distribution (85% snabbare, 75% mindre)
  • Multi-plattformsdistribution: Windows, mobilt, inbyggt och moln-edge hybrider
  • Produktionsverksamhet: Övervakning, skalning och underhåll av edge AI i produktion

🏗️ Praktiska projekt

  • Foundry Local Chat-appar: Windows 11-native app med modellväxling
  • Multi-agent system: Koordinator med specialistagenter för komplexa arbetsflöden
  • RAG-applikationer: Lokal dokumenthantering med vektorsökning
  • Modellruttrar: Intelligent val mellan modeller baserat på uppgiftsanalys
  • API-ramverk: Produktionsklara klienter med strömning och hälsokontroll
  • Korsplattformverktyg: LangChain/Semantic Kernel integrationsmönster

🏢 Branschapplikationer

TillverkningVårdAutonoma fordonSmarta städerMobilappar

Snabbstart

Rekommenderad lärväg (20-30 timmar totalt):

  1. 📖 Introduktion (Introduction.md): EdgeAI-grunder + branschkontext + lärandets ramverk
  2. 📚 Grund (Moduler 01-02): EdgeAI-koncept + SLM-modellfamiljer
  3. ⚙️ Optimering (Moduler 03-04): Distribution + kvantiseringsramverk
  4. 🚀 Produktion (Moduler 05-06): SLMOps + AI-agenter + funktionsanrop
  5. 💻 Implementering (Moduler 07-08): Plattformsexempel + Foundry Local toolkit

Varje modul innehåller teori, praktiska övningar och produktionsklara kodexempel.

Karriäreffekt

Tekniska roller: EdgeAI-lösningsarkitekt • ML-ingenjör (Edge) • IoT AI-utvecklare • Mobil AI-utvecklare

Branscher: Tillverkning 4.0 • Vårdteknik • Autonoma system • FinTech • Konsumentelektronik

Portföljprojekt: Multi-agent system • Produktions-RAG-appar • Korsplattformdistribution • Prestandaoptimering

Repositorie-struktur

edgeai-for-beginners/
├── 📖 introduction.md  # Foundation: EdgeAI Overview & Learning Framework
├── 📚 Module01-04/     # Fundamentals → SLMs → Deployment → Optimization  
├── 🔧 Module05-06/     # SLMOps → AI Agents → Function Calling
├── 💻 Module07/        # Platform Samples (VS Code, Windows, Jetson, Mobile)
├── 🏭 Module08/        # Foundry Local Toolkit + 10 Comprehensive Samples
│   ├── samples/01-06/  # Foundation: REST, SDK, RAG, Agents, Routing
│   └── samples/07-10/  # Advanced: API Client, Windows App, Enterprise Agents, Tools
├── 🌐 translations/    # Multi-language support (8+ languages)
└── 📋 STUDY_GUIDE.md   # Structured learning paths & time allocation

Kursens höjdpunkter

Progressivt lärande: Teori → Praktik → Produktionsdistribution
Verkliga fallstudier: Microsoft, Japan Airlines, företagsimplementeringar
Praktiska exempel: 50+ exempel, 10 omfattande Foundry Local-demonstrationer
Prestandafokus: 85% snabbare, 75% minskning i storlek
Multi-plattform: Windows, mobilt, inbyggt, moln-edge hybrid
Produktionsklart: Övervakning, skalning, säkerhet, regelefterlevnadsramverk

📖 Studiehandledning tillgänglig: Strukturerad 20-timmars lärväg med tidfördelning och självbedömningsverktyg.


EdgeAI representerar framtiden för AI-distribution: lokalt-först, integritetsbevarande och effektivt. Bemästra dessa färdigheter för att bygga nästa generations intelligenta applikationer.

Andra kurser

Vårt team producerar fler kurser! Kolla in:

LangChain

LangChain4j för nybörjare LangChain.js för nybörjare LangChain för nybörjare

Azure / Edge / MCP / Agenter

AZD för nybörjare Edge AI för nybörjare MCP för nybörjare AI-agenter för nybörjare


Generativ AI-serie

Generativ AI för nybörjare Generativ AI (.NET) Generativ AI (Java) Generativ AI (JavaScript)


Kärnlärande

ML för nybörjare Data Science för nybörjare AI för nybörjare Cybersäkerhet för nybörjare Webbdev för nybörjare IoT för nybörjare XR-utveckling för nybörjare


Copilot-serie

Copilot for AI Paired Programming Copilot for C#/.NET Copilot Adventure

Få Hjälp

Om du fastnar eller har några frågor om att bygga AI-appar, gå med i:

Microsoft Foundry Discord

Om du har produktfeedback eller fel medan du bygger, besök:

Microsoft Foundry Developer Forum


Ansvarsfriskrivning: Detta dokument har översatts med hjälp av AI-översättningstjänsten Co-op Translator. Även om vi strävar efter noggrannhet, bör du vara medveten om att automatiska översättningar kan innehålla fel eller brister. Det ursprungliga dokumentet på dess modersmål bör betraktas som den auktoritativa källan. För viktig information rekommenderas professionell mänsklig översättning. Vi ansvarar inte för några missförstånd eller feltolkningar som uppstår från användningen av denna översättning.