README.md

Phi Cookbook: Практичні приклади з моделями Phi від Microsoft

Phi — це серія моделей штучного інтелекту з відкритим кодом, розроблена Microsoft.

Phi наразі є найпотужнішою та найефективнішою за вартістю малою мовною моделлю (SLM), з дуже добрими показниками у багатомовності, логічному мисленні, генерації тексту/чату, програмуванні, роботі з зображеннями, аудіо та інших сценаріях.

Ви можете розгортати Phi у хмарі або на граничних пристроях, а також легко створювати генеративні AI-додатки з обмеженою обчислювальною потужністю.

Виконайте ці кроки, щоб почати використовувати ці ресурси:

1. Форкніть репозиторій: Натисніть
2. Клонуйте репозиторій: git clone https://github.com/microsoft/PhiCookBook.git
3. Приєднуйтесь до спільноти Microsoft AI Discord і зустрічайте експертів та інших розробників

🌐 Підтримка багатомовності

Підтримується через GitHub Action (автоматично та завжди актуально)

Арабська | Бенгальська | Болгарська | Бірманська (М’янма) | Китайська (спрощена) | Китайська (традиційна, Гонконг) | Китайська (традиційна, Макао) | Китайська (традиційна, Тайвань) | Хорватська | Чеська | Данська | Голландська | Естонська | Фінська | Французька | Німецька | Грецька | Іврит | Гінді | Угорська | Індонезійська | Італійська | Японська | Каннада | Кхмерська | Корейська | Литовська | Малайська | Малаялам | Маратхі | Непальська | Нігерійський Піджин | Норвезька | Перська (Фарсі) | Польська | Португальська (Бразилія) | Португальська (Португалія) | Панджабі (Гурмухі) | Румунська | Російська | Сербська (кирилиця) | Словацька | Словенська | Іспанська | Суахілі | Шведська | Тагалог (Філіппінська) | Тамільська | Телугу | Тайська | Турецька | Українська | Урду | В’єтнамська

Віддаєте перевагу клонувати локально?

Цей репозиторій включає понад 50 перекладів мовами, що значно збільшує розмір завантаження. Щоб клонувати без перекладів, використовуйте локальне вибіркове завантаження:

Bash / macOS / Linux:

git clone --filter=blob:none --sparse https://github.com/microsoft/PhiCookBook.git
cd PhiCookBook
git sparse-checkout set --no-cone '/*' '!translations' '!translated_images'

CMD (Windows):

git clone --filter=blob:none --sparse https://github.com/microsoft/PhiCookBook.git
cd PhiCookBook
git sparse-checkout set --no-cone "/*" "!translations" "!translated_images"

Це дає все, що потрібно для проходження курсу, із значно швидшим завантаженням.

Зміст

• Вступ

  • Ласкаво просимо до родини Phi
  • Налаштування вашого середовища
  • Розуміння ключових технологій
  • Безпека AI для моделей Phi
  • Підтримка обладнання Phi
  • Моделі Phi та доступність на різних платформах
  • Використання Guidance-ai і Phi
  • Моделі в GitHub Marketplace
  • Каталог моделей Azure AI

• Інференс Phi у різних середовищах

  • Hugging face
  • Моделі GitHub
  • Каталог моделей Microsoft Foundry
  • Ollama
  • AI Toolkit VSCode (AITK)
  • NVIDIA NIM
  • Foundry Local

• Інференс родини Phi

  • Інференс Phi на iOS
  • Інференс Phi на Android
  • Інференс Phi на Jetson
  • Інференс Phi на AI ПК
  • Інференс Phi з Apple MLX Framework
  • Інференс Phi на локальному сервері
  • Інференс Phi на віддаленому сервері за допомогою AI Toolkit
  • Інференс Phi з Rust
  • Інференс Phi--Vision локально
  • Інференс Phi з Kaito AKS, Azure Containers (офіційна підтримка)

• Квантифікація родини Phi

  • Квантизація Phi-3.5 / 4 за допомогою llama.cpp
  • Квантизація Phi-3.5 / 4 за допомогою розширень Generative AI для onnxruntime
  • Квантизація Phi-3.5 / 4 за допомогою Intel OpenVINO
  • Квантизація Phi-3.5 / 4 за допомогою Apple MLX Framework

• Оцінювання Phi

  • Відповідальний AI
  • Microsoft Foundry для оцінювання
  • Використання Promptflow для оцінювання

• RAG з Azure AI Search

  • Як використовувати Phi-4-mini та Phi-4-multimodal (RAG) з Azure AI Search

• Приклади розробки додатків Phi

  • Текстові та чат-додатки

    • Phi-4 Приклади
      • [📓] Чат з Phi-4-mini ONNX моделлю
      • Чат з локальною моделлю Phi-4 ONNX .NET
      • Чат-консольний додаток .NET з Phi-4 ONNX за допомогою Semantic Kernel
    • Phi-3 / 3.5 Приклади
      • Локальний чатбот у браузері з використанням Phi3, ONNX Runtime Web та WebGPU
      • OpenVino Chat
      • Multi Model - Інтерактивний Phi-3-mini та OpenAI Whisper
      • MLFlow - Створення обгортки та використання Phi-3 з MLFlow
      • Оптимізація моделі - Як оптимізувати модель Phi-3-min для ONNX Runtime Web за допомогою Olive
      • Додаток WinUI3 з Phi-3 mini-4k-instruct-onnx -Зразок додатку WinUI3 для нотаток з ШІ на основі кількох моделей
      • Детюнінг та інтеграція власних моделей Phi-3 з Prompt flow
      • Детюнінг та інтеграція власних моделей Phi-3 з Prompt flow у Microsoft Foundry
      • Оцінка детюнінгу моделі Phi-3 / Phi-3.5 у Microsoft Foundry з акцентом на принципи відповідального ШІ Microsoft
      • [📓] Приклад прогнозування мови Phi-3.5-mini-instruct (китайська/англійська)
      • Phi-3.5-Instruct WebGPU RAG чатбот
      • Використання GPU Windows для створення рішення Prompt flow з Phi-3.5-Instruct ONNX
      • Використання Microsoft Phi-3.5 tflite для створення Android додатку
      • Приклад Q&A .NET з локальною ONNX моделлю Phi-3 за допомогою Microsoft.ML.OnnxRuntime
      • Консольний чат .NET додаток з Semantic Kernel та Phi-3

  • Azure AI Inference SDK Код прикладів

    • Phi-4 Приклади
      • [📓] Генерація коду проекту з Phi-4-multimodal
    • Phi-3 / 3.5 Приклади
      • Створіть власний чат GitHub Copilot для Visual Studio Code з Microsoft Phi-3 Family
      • Створіть власного агента для Visual Studio Code Chat Copilot з Phi-3.5 за моделями GitHub

  • Розширені приклади логіки

    • Phi-4 Приклади
      • [📓] Phi-4-mini-reasoning або Phi-4-reasoning приклади
      • [📓] Детюнінг Phi-4-mini-reasoning з Microsoft Olive
      • [📓] Детюнінг Phi-4-mini-reasoning з Apple MLX
      • [📓] Phi-4-mini-reasoning з моделями GitHub
      • [📓] Phi-4-mini-reasoning з моделями Microsoft Foundry

  • Демонстрації

    • Phi-4-mini демонстрації на Hugging Face Spaces
    • Phi-4-мультимодальні демонстрації на Hugging Face Spaces

  • Vision Приклади

    • Phi-4 Приклади
      • [📓] Використання Phi-4-multimodal для читання зображень та генерації коду
    • Phi-3 / 3.5 Приклади
      • [📓]Phi-3-vision-Зображення текст у текст
      • Phi-3-vision-ONNX
      • [📓]Phi-3-vision CLIP embedding
      • DEMO: Phi-3 Переробка
      • Phi-3-vision - Візуальний мовний асистент - з Phi3-Vision та OpenVINO
      • Phi-3 Vision Nvidia NIM
      • Phi-3 Vision OpenVino
      • [📓]Phi-3.5 Vision мультифреймовий або мультизображень зразок
      • Phi-3 Vision локальна ONNX модель з використанням Microsoft.ML.OnnxRuntime .NET
      • Меню для Phi-3 Vision Локальна ONNX модель з використанням Microsoft.ML.OnnxRuntime .NET

  • Приклади Reasoning-Vision

    • Phi-4-Reasoning-Vision-15B
      • [📓] Використання Phi-4-Reasoning-Vision-15B для виявлення пішоходів поза переходом
      • [📓] Використання Phi-4-Reasoning-Vision-15B для математики
      • [📓] Використання Phi-4-Reasoning-Vision-15B для виявлення UI

  • Математичні приклади

    • Phi-4-Mini-Flash-Reasoning-Instruct приклади Демо математики з Phi-4-Mini-Flash-Reasoning-Instruct

  • Аудіо приклади

    • Phi-4 Приклади
      • [📓] Витяг аудіотранскриптів за допомогою Phi-4-multimodal
      • [📓] Phi-4-multimodal аудіозразок
      • [📓] Phi-4-multimodal зразок перекладу мовлення
      • .NET консольний додаток за допомогою Phi-4-multimodal аудіо для аналізу аудіофайлу та генерації транскрипту

  • MOE Приклади

    • Phi-3 / 3.5 Приклади
      • [📓] Phi-3.5 Модель суміші експертів (MoEs) для соціальних мереж
      • [📓] Побудова pipeline генерації з доповненням пошуком (RAG) з NVIDIA NIM Phi-3 MOE, Azure AI Search та LlamaIndex

  • Приклади Function Calling

    • Phi-4 Приклади 🆕
      • [📓] Використання Function Calling з Phi-4-mini
      • [📓] Використання Function Calling для створення мультиагентів з Phi-4-mini
      • [📓] Використання Function Calling з Ollama
      • [📓] Використання Function Calling з ONNX

  • Приклади Multimodal Mixing

    • Phi-4 Приклади 🆕
      • [📓] Використання Phi-4-multimodal як технологічного журналіста
      • .NET консольний додаток за допомогою Phi-4-multimodal для аналізу зображень

• Детюнінг Phi Прикладів

  • Сценарії детюнінгу
  • Детюнінг vs RAG
  • Детюнінг: нехай Phi-3 стане експертом у галузі
  • Детюнінг Phi-3 за допомогою AI Toolkit для VS Code
  • Детюнінг Phi-3 з Azure Machine Learning Service
  • Детюнінг Phi-3 з Lora
  • Детюнінг Phi-3 з QLora
  • Детюнінг Phi-3 з Microsoft Foundry
  • Детюнінг Phi-3 з Azure ML CLI/SDK
  • Детюнінг з Microsoft Olive
  • Практична лабораторія детюнінгу з Microsoft Olive
  • Детюнінг Phi-3-vision з Weights and Bias
  • Детюнінг Phi-3 з Apple MLX Framework
  • Офіційна підтримка детюнінгу Phi-3-vision
  • Тонке налаштування Phi-3 з Kaito AKS, Azure Containers (офіційна підтримка)
  • Тонке налаштування Phi-3 та 3.5 Vision

• Практична лабораторія

  • Вивчення найсучасніших моделей: LLM, SLM, локальна розробка та інше
  • Розкриття потенціалу NLP: тонке налаштування з Microsoft Olive

• Академічні наукові статті та публікації

  • Textbooks Are All You Need II: технічний звіт phi-1.5
  • Phi-3 Technical Report: високо здібна мовна модель локально на вашому телефоні
  • Phi-4 Technical Report
  • Phi-4-Mini Technical Report: компактні, але потужні багатомодальні мовні моделі за допомогою Mixture-of-LoRAs
  • Оптимізація маленьких мовних моделей для виклику функцій у транспортних засобах
  • (WhyPHI) Тонке налаштування PHI-3 для множинного вибору питань: методологія, результати та виклики
  • Phi-4-reasoning Technical Report
  • Phi-4-mini-reasoning Technical Report

Використання моделей Phi

Phi на Microsoft Foundry

Ви можете дізнатися, як використовувати Microsoft Phi та як створювати E2E рішення на різних апаратних пристроях. Щоб самостійно спробувати Phi, почніть з роботи з моделями та налаштуйте Phi для своїх сценаріїв, використовуючи Microsoft Foundry Azure AI Model Catalog. Більше інформації доступно в розділі Початок роботи з Microsoft Foundry

Плейграунд Кожна модель має власний плейграунд для тестування моделі Azure AI Playground.

Phi на GitHub Models

Ви можете дізнатися, як використовувати Microsoft Phi та як створювати E2E рішення на різних апаратних пристроях. Щоб самостійно спробувати Phi, почніть з роботи з моделлю та налаштуйте Phi для своїх сценаріїв, використовуючи GitHub Model Catalog. Більше інформації доступно в розділі Початок роботи з GitHub Model Catalog

Плейграунд Кожна модель має власний плейграунд для тестування моделі.

Phi на Hugging Face

Ви також можете знайти модель на Hugging Face

Плейграунд Hugging Chat playground

🎒 Інші курси

Наша команда створює інші курси! Ознайомтеся:

LangChain

Azure / Edge / MCP / Agents

---

Серія генеративного ШІ

---

Основне навчання

---

Серія Copilot

Відповідальний ШІ

Microsoft прагне допомагати нашим клієнтам відповідально використовувати наші продукти ШІ, ділитися своїм досвідом і будувати партнерські відносини на основі довіри за допомогою інструментів, таких як Нотатки прозорості та Оцінки впливу. Багато з цих ресурсів можна знайти за адресою https://aka.ms/RAI. Підхід Microsoft до відповідального ШІ базується на наших принципах ШІ: справедливість, надійність і безпека, конфіденційність і безпека, інклюзивність, прозорість та підзвітність.

Великі масштаби моделей природної мови, зображень і мовлення — як ті, що використовуються в цьому прикладі — потенційно можуть поводитися несправедливо, ненадійно або образливо, що може призвести до шкоди. Будь ласка, ознайомтеся з нотаткою прозорості служби Azure OpenAI, щоб бути поінформованими про ризики та обмеження. Рекомендуваним підходом пом'якшення цих ризиків є включення системи безпеки у вашу архітектуру, яка може виявляти та запобігати шкідливій поведінці. Azure AI Content Safety забезпечує незалежний рівень захисту, здатний виявляти шкідливий контент, створений користувачами та ШІ, у додатках і службах. Azure AI Content Safety включає API для тексту та зображень, які дозволяють виявляти шкідливий матеріал. У Microsoft Foundry служба Content Safety дозволяє переглядати, досліджувати та випробовувати прикладний код для виявлення шкідливого контенту у різних модальностях. Наступна документація швидкого запуску проведе вас через процес виконання запитів до служби.

Ще одним аспектом, який слід враховувати, є загальна продуктивність додатку. У мульти-модальних і мульти-модельних додатках під продуктивністю розуміють те, що система працює так, як очікуєте ви і ваші користувачі, включно з тим, що вона не генерує шкідливі результати. Важливо оцінити продуктивність вашого загального додатку за допомогою Оцінювачів продуктивності, якості, ризику та безпеки. Ви також маєте можливість створювати та оцінювати за допомогою кастомних оцінювачів.

Ви можете оцінити свій ШІ-додаток у середовищі розробки за допомогою Azure AI Evaluation SDK. Враховуючи тестовий набір даних або ціль, генерації вашого генеративного ШІ-додатку кількісно вимірюються вбудованими або визначеними вами кастомними оцінювачами. Щоб почати працювати з Azure AI Evaluation SDK для оцінки вашої системи, ви можете скористатися інструкцією швидкого запуску. Після виконання запуску оцінювання ви можете візуалізувати результати в Microsoft Foundry.

Торгові марки

Цей проєкт може містити торгові марки або логотипи проєктів, продуктів чи послуг. Авторизоване використання торгових марок або логотипів Microsoft підлягає дотриманню і повинно відповідати Правилам використання торгових марок і брендів Microsoft. Використання торгових марок або логотипів Microsoft у змінених версіях цього проєкту не повинно викликати плутанину або створювати враження спонсорства Microsoft. Будь-яке використання торгових марок або логотипів третіх сторін підпорядковується політикам цих третіх сторін.

Отримання допомоги

Якщо у вас виникли труднощі або є питання щодо створення ШІ-додатків, приєднуйтеся:

Якщо у вас є відгуки про продукт або помилки під час створення, відвідайте:

---

Відмова від відповідальності:
Цей документ було перекладено за допомогою сервісу штучного інтелекту Co-op Translator. Хоч ми й докладаємо зусиль для забезпечення точності, просимо враховувати, що автоматичні переклади можуть містити помилки чи неточності. Оригінальний документ рідною мовою слід вважати авторитетним джерелом. Для критично важливої інформації рекомендується професійний людський переклад. Ми не несемо відповідальності за будь-які непорозуміння чи неправильні тлумачення, що виникли внаслідок використання цього перекладу.