Програма серії «Основи ШІ»: від основ до мовних моделей і агентів
Мапа всіх статей серії — математика, пошук, машинне навчання, обробка сигналів, нейронні мережі, LSTM, трансформери, генеративні моделі та AI-агенти.
Це план усієї серії «Основи ШІ»: усе, що ми хочемо пояснити, упорядковане від основ до деталей. Готові статті — це посилання, решту ми поступово дописуємо. Програма — це мапа, а не обов’язковий маршрут: кожну статтю можна читати окремо, а на її початку ви знайдете, що варто знати заздалегідь.
Модулі спираються один на одного так, як показує граф. Спершу мапа й математика, потім дві великі родини ШІ — та, що шукає, і та, що навчається. З машинного навчання та обробки сигналів виростають нейронні мережі, з них — мовні моделі та генеративний ШІ, і зрештою все зустрічається в AI-агентах. Число під назвою модуля показує, скільки його статей уже вийшло.
- основи без попередніх знань
- поглиблено спирається на основи з попередніх модулів
- детально для тих, хто хоче знати, як це працює всередині
1. Вступ і мапа
З чого почати: що таке штучний інтелект, звідки він узявся і базовий словник.
-
1.1
Мапа штучного інтелекту Що таке ШІ, машинне навчання, глибоке навчання та мовні моделі і як вони пов’язані між собою.основи
-
1.2
Коротка історія ШІ Від тесту Тюрінга через «зими» ШІ до мовних моделей.основи
-
1.3
Дані, модель, навчання, інференс Базові поняття, без яких не обійтися в решті серії.основи
2. Математичні основи
Спершу мова математики — запис, множини, відношення, функції, логіка й графи, — з якою ви прочитаєте кожне означення в серії. Далі рівно стільки математики, скільки потрібно, — завжди з прикладом зі ШІ. Градієнтний спуск — серце майже всього, що навчається.
-
2.1
Як читати математичний запис Символи, індекси, суми й квантори — словничок, з яким ви прочитаєте кожне означення в серії.основи
-
2.2
Множини та відношення Елементи, підмножини, декартів добуток і відношення — з них складаються стани, дані й графи.основи
-
2.3
Функції та відображення Область визначення, область значень і композиція — що саме означає запис f : X → Y.основи
-
2.4
Логіка та доведення Зв’язки, імплікація, квантори ∀ і ∃ та як працює математичне доведення.основи
-
2.5
Графи та дерева Вершини, ребра, шляхи й дерева — структура, на якій ґрунтуються і пошук, і нейронні мережі.основи
-
2.6
Лінійна алгебра для машинного навчання Вектори, матриці та скалярний добуток — мова, якою розмовляє кожна модель.основи
-
2.7
Похідна, градієнт і ланцюгове правило Як з’ясувати, в який бік повернути регулятори моделі.основи
-
2.8
Градієнтний спуск: як навчається модель Градієнтний спуск, SGD, моментум і Adam з анімацією на ландшафті помилки.поглиблено
3. Імовірність і статистика
Машинне навчання — це здебільшого статистика. Від точного означення ймовірності через випадкові величини, функцію розподілу й густину до розподілів, оцінювання та ентропії.
-
3.1
Що таке ймовірність Випадковий експеримент, події та аксіоми Колмогорова — точне означення замість «відношення сприятливих випадків».основи
-
3.2
Умовна ймовірність і теорема Баєса Як змінити оцінку, коли ви дізнаєтеся щось нове, — основа спам-фільтрів і медичної діагностики.основи
-
3.3
Випадкова величина і функція розподілу Дискретні й неперервні величини та функція, яка про розподіл кожної з них скаже все.основи
-
3.4
Густина розподілу та функція ймовірностей Чому неперервна величина в одній точці має ймовірність нуль — і що замість цього показує густина.поглиблено
-
3.5
Математичне сподівання, дисперсія та коваріація Де лежить розподіл, наскільки він широкий і як дві величини пов’язані між собою.основи
-
3.6
Огляд імовірнісних розподілів Бернуллі, біноміальний, Пуассона, рівномірний, нормальний і експоненційний — коли який застосовувати.основи
-
3.7
Закон великих чисел і центральна гранична теорема Чому середні поводяться так передбачувано і чому нормальний розподіл трапляється всюди.поглиблено
-
3.8
Статистика та оцінювання параметрів Вибірка, оцінка, метод максимальної правдоподібності та довірчі інтервали.поглиблено
-
3.9
Теорія інформації Ентропія, перехресна ентропія та KL-дивергенція — звідки беруться функції втрат.поглиблено
4. Класичний ШІ: пошук, ігри та логіка
ШІ, який нічого не навчається, а міркує: перебирає можливості, прораховує ходи й робить висновки з правил.
-
4.1
Пошук у просторі станів BFS, DFS, UCS, жадібний пошук і A* в одному лабіринті.основи
-
4.2
Ігри та суперник Мінімакс, альфа-бета відсікання і пошук по дереву Монте-Карло.поглиблено
-
4.3
Задачі задоволення обмежень Судоку, розклади та пошук з поверненням із поширенням обмежень.поглиблено
-
4.4
Логіка та системи, засновані на знаннях Знання, записані правилами, автоматичне логічне виведення та експертні системи.поглиблено
-
4.5
Планування Як ШІ складає послідовність дій для досягнення мети — від STRIPS до сучасних агентів.поглиблено
5. Алгоритми, натхненні природою
Коли можливостей так багато, що їх неможливо перебрати, варто повчитися в природи: в еволюції, мурах, пташиних зграй і металу, що охолоджується.
-
5.1
Локальний пошук та імітація відпалу Альпініст, який застряг на пагорбі, — і як йому допоможе фізика металу, що охолоджується.основи
-
5.2
Генетичні алгоритми Популяція розв’язків, схрещування, мутація та природний добір у коді.основи
-
5.3
Еволюційні стратегії та генетичне програмування Еволюція числових параметрів і цілих програм.поглиблено
-
5.4
Оптимізація мурашиною колонією Як феромонні сліди знаходять короткий шлях — навіть для задачі комівояжера.поглиблено
-
5.5
Оптимізація роєм частинок Рій, що ділиться найкращим знайденим місцем, і чому це працює.поглиблено
-
5.6
Нейроеволюція Еволюція ваг і архітектури нейронних мереж — NEAT та його наступники.детально
6. Нечітка логіка та нечіткі системи
Світ не чорно-білий, і нечітка логіка це враховує: замість «так чи ні» вона питає «якою мірою». З правил, зрозумілих людині, вона будує регулятори й моделі.
-
6.1
Нечіткі множини та функції належності Коли елемент належить до множини ні повністю, ні зовсім ні — як записати «трохи тепло».основи
-
6.2
Нечітка логіка та ймовірність Чому «трохи тепло» означає не те саме, що «ймовірно, тепло».основи
-
6.3
Нечітка логіка: операції та правила Нечіткий перетин і об’єднання, t-норми та правила типу ЯКЩО–ТО.поглиблено
-
6.4
Нечітке керування: Мамдані та Суґено Фазифікація, виведення та дефазифікація — як нечіткий регулятор керує пральною машиною чи кондиціонером.поглиблено
-
6.5
Нечітка кластеризація Алгоритм fuzzy c-means: точка може належати до кількох кластерів одночасно.поглиблено
-
6.6
Нейронечіткі системи (ANFIS) Нечіткі правила, параметри яких навчаються, як у нейронної мережі.детально
7. Імовірнісні моделі та послідовності
Як працювати з невизначеністю і з тим, що відбувається в часі, — від ланцюгів Маркова до фільтра Калмана.
-
7.1
Ланцюги Маркова Випадкові процеси без пам’яті, матриця переходів і стаціонарний розподіл.поглиблено
-
7.2
Приховані марковські моделі Що відбувається, коли стан не видно, — і алгоритм Вітербі.поглиблено
-
7.3
Баєсові мережі Граф залежностей між випадковими величинами та виведення на його основі.поглиблено
-
7.4
Фільтр Калмана Оцінка справжнього стану із зашумлених вимірювань, крок за кроком.детально
8. Машинне навчання
Загальна рамка: які бувають види навчання, чому модель помиляється на нових даних і як зрозуміти, що вона навчилася добре.
-
8.1
Види машинного навчання З учителем, без учителя, з частковим залученням учителя, самонавчання та навчання з підкріпленням.основи
-
8.2
Перенавчання та регуляризація Чому модель, яка знає навчальні дані напам’ять, зазнає невдачі, — і що з цим робити.поглиблено готуємо
-
8.3
Оцінювання моделі Навчальні й тестові дані, крос-валідація, точність, F1 і ROC.поглиблено готуємо
-
8.4
Кластеризація та зниження розмірності k-means, PCA і t-SNE — як побачити структуру в сотнях вимірів.поглиблено готуємо
9. Класифікація та регресія
Дві найпоширеніші задачі машинного навчання — до якої шухляди це належить і скільки це буде — та моделі, що їх розв’язують: від прямої через дерева до SVM.
-
9.1
Класифікація та регресія: дві задачі навчання з учителем Коли модель відповідає класом, а коли числом — і як від цього залежить вимірювання помилки.основи готуємо
-
9.2
Лінійна регресія Метод найменших квадратів геометрично й у матричному вигляді та що означає R².основи готуємо
-
9.3
Поліноміальна та нелінійна регресія Як вигнути пряму — і чому надто вигнута крива передбачає гірше.поглиблено готуємо
-
9.4
Логістична регресія Класифікація сигмоїдою, межа рішень і перехресна ентропія.основи готуємо
-
9.5
Багатокласова класифікація та softmax Від двох класів до багатьох: один проти всіх і функція softmax.поглиблено готуємо
-
9.6
Наївний баєсів класифікатор Теорема Баєса на практиці: швидкий класифікатор тексту, який працює краще, ніж мав би.поглиблено готуємо
-
9.7
Функції втрат MSE, MAE, втрата Губера, перехресна ентропія та hinge — що саме мінімізує модель.поглиблено готуємо
-
9.8
Дерева рішень і k найближчих сусідів Дві моделі, які можна пояснити навіть без формул.поглиблено готуємо
-
9.9
Ансамблі: випадковий ліс і градієнтний бустинг Чому сто слабких моделей переможуть одну сильну.поглиблено готуємо
-
9.10
SVM і ядровий трюк Найширша можлива межа між класами і як її вигнути.детально готуємо
10. Обробка сигналів
Звук, зображення й вимірювання — це сигнали. Перш ніж їх отримає модель, їх треба перетворити на числа, — а згортка звідси перейде просто в нейронні мережі.
-
10.1
Сигнал і дискретизація Що таке сигнал, як перетворити його на числа і чому справджується теорема Найквіста.основи готуємо
-
10.2
Перетворення Фур’є Розклад сигналу на частоти і що нам каже спектр.поглиблено готуємо
-
10.3
Фільтри та згортка Згладжування, підсилення країв і усунення шуму — і чому згортка всюди.поглиблено готуємо
-
10.4
Звук і мовлення Спектрограма, мел-шкала та MFCC — як звук готують для моделі.детально готуємо
-
10.5
Зображення як сигнал Пікселі, кольори, 2D-згортка та виявлення країв.поглиблено готуємо
11. Нейронні мережі та глибоке навчання
Від одного нейрона до мереж для зображень і послідовностей — зокрема рекурентні мережі, LSTM і GRU.
-
11.1
Перцептрон і штучний нейрон Найпростіша нейронна мережа і чого вона не вміє.основи готуємо
-
11.2
Нейронна мережа з нуля Багатошарова мережа та зворотне поширення помилки, вручну й крок за кроком.поглиблено готуємо
-
11.3
Активації, ініціалізація та нормалізація Дрібниці, від яких залежить, чи глибока мережа взагалі навчиться.поглиблено готуємо
-
11.4
Згорткові мережі (CNN) Як мережа розпізнає зображення — шар за шаром.поглиблено готуємо
-
11.5
Рекурентні мережі (RNN) Мережі з пам’яттю для послідовностей і проблема зникаючого градієнта.поглиблено готуємо
-
11.6
LSTM і GRU Вентилі, які вирішують, що мережа запам’ятає, а що забуде.детально готуємо
-
11.7
Автокодувальники та представлення Мережа, яка вчиться стискати дані й знову їх розгортати.поглиблено готуємо
-
11.8
Ембединги та word2vec Як слово стає вектором, з яким можна обчислювати.поглиблено готуємо
12. Трансформери та мовні моделі
Механізм уваги, трансформер і все, що робить із мовної моделі асистента.
-
12.1
Механізм уваги Як модель вчиться, на що дивитися в тексті.поглиблено готуємо
-
12.2
Трансформери та великі мовні моделі Архітектура трансформера крок за кроком і як із неї постає LLM.детально готуємо
-
12.3
Токенізація Як текст розрізають на шматки, з якими працює модель.поглиблено готуємо
-
12.4
Попереднє навчання та масштабування Чому більша модель і більше даних працюють — і де це перестає справджуватися.детально готуємо
-
12.5
Донавчання та RLHF Як модель, що доповнює текст, стає асистентом.детально готуємо
-
12.6
Промпти, контекст і RAG Як дати моделі правильну інформацію в потрібний момент.поглиблено
13. Генеративні моделі
Моделі, які дані не сортують, а створюють, — зображення, звук і навіть нові молекули.
-
13.1
Варіаційні автокодувальники (VAE) Генерування нових даних із неперервного латентного простору.детально
-
13.2
Генеративні змагальні мережі (GAN) Дві мережі, що намагаються перехитрити одна одну.детально
-
13.3
Дифузійні моделі Як із чистого шуму поступово постає зображення.детально
14. Навчання з підкріпленням
Як навчитися діяти лише на основі винагород і покарань — від рівнянь Беллмана до алгоритму, що стоїть за RLHF.
-
14.1
Марковські процеси прийняття рішень Стани, дії, винагороди та рівняння Беллмана.поглиблено
-
14.2
Q-learning і DQN Навчання цінності дій — від таблиці до глибокої мережі.поглиблено
-
14.3
Policy gradient і PPO Навчання безпосередньо політики — алгоритм, що стоїть і за RLHF.детально
15. AI-агенти на практиці
Де все зустрічається: мовна модель, яка планує, користується інструментами й працює замість вас.
-
15.1
Як працює AI-агент Мовна модель у циклі: інструменти, планування та пам’ять.поглиблено
-
15.2
Програмування з AI-агентами Як ставити агентові завдання, перевіряти їх і не втрачати над ними контролю.основи
-
15.3
Оцінювання та безпека систем ШІ Як вимірювати, що вміє ШІ, і як не дати йому робити те, чого не слід.поглиблено
Вам бракує в програмі теми, яку варто було б пояснити? Напишіть нам — порядок наступних статей залежить і від того, що цікавить читачів.
Маєте іншу думку? Напишіть на support@coden-app.com.