Gry Wideo: Drzewa Zachowań i Hierarchiczne Systemy Sztucznej Inteligencji Michał Słapa

Michał Słapa o mnie CD Projekt Red (2006-2009) Wiedźmin Projekt współfinansowany przez Unię Europejską w ramach Europejskiego Funduszu Społecznego

Michał Słapa o mnie CD Projekt Red (2006-2009) Wiedźmin Prototyp Wiedźmina 2 Projekt współfinansowany przez Unię Europejską w ramach Europejskiego Funduszu Społecznego

Michał Słapa o mnie CD Projekt Red (2006-2009) Wiedźmin Prototyp Wiedźmina 2 Flying Wild Hog (od 2009-VII 2012) Hard Reset Projekt współfinansowany przez Unię Europejską w ramach Europejskiego Funduszu Społecznego

Michał Słapa o mnie CD Projekt Red (2006-2009) Wiedźmin Prototyp Wiedźmina 2 Flying Wild Hog (od 2009-VII 2012) Hard Reset Kolejny projekt Projekt współfinansowany przez Unię Europejską w ramach Europejskiego Funduszu Społecznego

Michał Słapa o mnie CD Projekt Red (2006-2009) Wiedźmin Prototyp Wiedźmina 2 Flying Wild Hog (od 2009-VII 2012) Hard Reset Kolejny projekt CD Projekt Red (od lipca 2012)  Dark fantasy RPG Projekt współfinansowany przez Unię Europejską w ramach Europejskiego Funduszu Społecznego

Gry komputerowe Wprowadzenie Stale rozwijająca i przyśpieszająca branża „elektronicznej rozrywki”. Dzięki coraz to nowym platformom do gier, branża staje się coraz bardziej różnorodna i spolaryzowana: Wielkobudżetowe gry AAA. Tańsze gry „mainstream’owe” Niskobudżetowe tytuły „indie” Social gaming Massive Multiplayer Free to play Gry casual Gry na platformy mobilne – telefony, tablety Miejsce zarówno dla dużych korporacji, prywatnych developerów, ale też kilkuosobowych zespołów. Projekt współfinansowany przez Unię Europejską w ramach Europejskiego Funduszu Społecznego

Gry komputerowe Wprowadzenie Projekt współfinansowany przez Unię Europejską w ramach Europejskiego Funduszu Społecznego

Gry komputerowe Wprowadzenie Programiści stanowią proporcjonalnie niewielką część zespołu: Artyści Design QA Produkcja Programiści Stały kontakt z ludźmi z różnych specjalizacji. Mniej lub bardziej technicznymi, mniej lub bardziej artystycznymi, ale zawsze fanami gier. Przy pracy nad AI programista musi stale i blisko współpracować z Designem. W zależności od specyfiki firmy: Odpowiada za serce systemu, bądź też implementację konkretnych zachowań i przeciwników. Ma mniej lub więcej swobody w tworzeniu zachowań. Projekt współfinansowany przez Unię Europejską w ramach Europejskiego Funduszu Społecznego

Plan prezentacji Projektowanie systemu AI Charakterystyka Skończonych Maszyn Stanów. Hierarchiczne Drzewa Zachowań. Wnioski Projekt współfinansowany przez Unię Europejską w ramach Europejskiego Funduszu Społecznego

AI marzeń dla programisty Prosta, spójna i logiczna struktura Skalowalność: Systemu Zachowań Możliwość jednoczesnej realizacji wysoko poziomowego procesu decyzyjnego i niskopoziomowego sterowania Atomowe, hermetyczne akcje Łatwy reuse kodu Wydajność Projekt współfinansowany przez Unię Europejską w ramach Europejskiego Funduszu Społecznego

AI marzeń dla designera Prosta, spójna i logiczna struktura Łatwy w projektowaniu Łatwy w skryptowaniu Przewidywalne działanie Konfiguracja Projekt współfinansowany przez Unię Europejską w ramach Europejskiego Funduszu Społecznego

Zabieramy się za AI Zagrożenia Róbmy AI wcześnie, inaczej skończymy w sytuacji gdy wiele systemów, które powinno na nim bazować będzie zrobione "obok". Róbmy JEDEN system AI obejmujący wszystkie mechanizmy decyzyjne. Design czasem chce AI, które już zaprojektował. Nie dajmy narzucać sobie rozwiązań systemowych. Nie próbujmy być zbyt sprytni (przerost autonomii). Nie bójmy się sprytnych rozwiązań (unikajmy łopatologii). Projekt współfinansowany przez Unię Europejską w ramach Europejskiego Funduszu Społecznego

Zabieramy się za AI „Atom” AI Zachowanie/Stan/Zadanie Może byc bezstanowy, lub miec wewnętrzny stan Definiuje metody: Aktywacji Deaktywacji Update Odpowiedź na zdarzenia + i dużo innych Systemy AI o jakich będziemy mówić różnią się mechanizmami łączenia i zarządzania tymi atomami. Projekt współfinansowany przez Unię Europejską w ramach Europejskiego Funduszu Społecznego

Maszyna stanów Idea Swojego czasu najpopularniejsza struktura systemu sztucznej inteligencji. Atomowe zachowania AI implementowane są przez stany maszyny. Pomiędzy stanami definiowane są skierowane przejścia i ich warunki. Projekt współfinansowany przez Unię Europejską w ramach Europejskiego Funduszu Społecznego

Maszyna stanów Projekt współfinansowany przez Unię Europejską w ramach Europejskiego Funduszu Społecznego

Maszyna stanów Dodajmy do gry efekt czaru „Strach”. Projekt współfinansowany przez Unię Europejską w ramach Europejskiego Funduszu Społecznego

Maszyna stanów Dodajmy nowy wierzchołek Projekt współfinansowany przez Unię Europejską w ramach Europejskiego Funduszu Społecznego

Maszyna stanów Albo całą funkcjonalność… Projekt współfinansowany przez Unię Europejską w ramach Europejskiego Funduszu Społecznego

Maszyna stanów Dla designera Zalety Czytelny Łatwy w projektowaniu Łatwy w skryptowaniu Przewidywalne działanie Wady Jak to się komplikuje... (kwadratowy rząd ilości połączeń do wielkości grafu) Projekt współfinansowany przez Unię Europejską w ramach Europejskiego Funduszu Społecznego

Maszyna stanów Dla programisty Zalety Prostota, spójna i logiczna struktura Wady NIE- Atomowe stany NIE- Hermetyczne stany CIĘŻKI reuse kodu BRAK Skalowalności Projekt współfinansowany przez Unię Europejską w ramach Europejskiego Funduszu Społecznego

Maszyna stanów Grzech główny Płaska struktura AI zaimplementowane na zadanym poziomie. Problem z zaimplementowaniem wysokopoziomowych procesów decyzyjnych i konieczność tworzenia wrapperów na niskopoziomowe sterowanie. Projekt współfinansowany przez Unię Europejską w ramach Europejskiego Funduszu Społecznego

Maszyna stanów Przykład The Witcher Projekt współfinansowany przez Unię Europejską w ramach Europejskiego Funduszu Społecznego

Inne podejścia Planowanie Hierarchiczne FSM Drzewa Zachowań (Behavior Tree) Goal Based Behavior Projekt współfinansowany przez Unię Europejską w ramach Europejskiego Funduszu Społecznego

Drzewa Zachowań Idea Wprowadźmy pojęcie wierzchołka drzewa == zachowania złożonego mającego pod sobą uporządkowany zbiór zachowań. Zastąpmy maszynę stanów korzeniem drzewa -"Mózgiem". Niech każdy stan jest w stanie stwierdzić czy są spełnione warunki by mógł się wykonywać. Ewentualnie niech warunki wykonania każdego "zachowania" określa osobny funkcyjny obiekt z nim związany. Wprowadźmy prosty proces decyzyjny dla stanu złożonego - gdy jest aktywny, wówczas aktywuje on pierwszy dostępny ze swoich pod-stanów. Otrzymamy strukturę drzewiastą w którym węzły są stanami wyższego rzędu, a liście - niskiego. W drzewie jednocześnie aktywna jest cała gałąź zachowań. Projekt współfinansowany przez Unię Europejską w ramach Europejskiego Funduszu Społecznego

Drzewa Zachowań Projekt współfinansowany przez Unię Europejską w ramach Europejskiego Funduszu Społecznego

Drzewa Zachowań Proces decyzyjny Węzeł złożony ewaluuje swoje dzieci aż trafi na gotowe. Możliwe uproszczenie, że co najmniej jedno dziecko węzła jest gotowe. Umożliwia niezależne ewaluacje wierzchołków, upraszcza proces decyzyjny. Wymusza dokładniejsze testy warunków wierzchołka rodzica. Projekt współfinansowany przez Unię Europejską w ramach Europejskiego Funduszu Społecznego

Drzewa Zachowań Proces decyzyjny - optymalizacja Potężna optymalizacja: reewaluacja procesu decyzyjnego odbywa się możliwie rzadko - powiedzmy raz na 1-2 sekundy. W odpowiedzi na zdarzenia możemy wymusić reewaluację wierzchołka w następnej klatce. Dzięki temu reakcja na zdarzenia będące "bodźcem" jest natychmiastowa. Optymalizacja powoduje przypadkowe ale też całkiem naturalne ("ludzkie") opóźnienia w reakcji AI na zmiany środowiska nie dotyczące go bezpośrednio. W Hard Reset całe AI działało w języku skryptowym, poza tym nie miało wielu innych optymalizacji o których wspomnę w tej prezentacji. Mimo tego, dzięki rzadkim aktualizacjom złożonych wierzchołków nigdy nie wyskakiwało wysoko w profilerach. Projekt współfinansowany przez Unię Europejską w ramach Europejskiego Funduszu Społecznego

Drzewa Zachowań Cykl wykonania węzła Aktywacja - Activate Aktualizacje - Update Zakończenie wykonania: Jeśli zachowanie się wykonało wywołuje Complete, które z kolei wykonuje Deactivate. Jeśli wykonanie węzła zostanie wywłaszczone przez proces decyzyjny - węzeł dostaje Deactivate.  Projekt współfinansowany przez Unię Europejską w ramach Europejskiego Funduszu Społecznego

Drzewa Zachowań Przechwytywanie zdarzeń Podstawowy mechanizm - zdarzenie przechodzi przez całą gałąź aktywnych zadań. Dodatkowy mechanizm - węzły mogą rejestrować się na odsłuch konkretnych eventów. Projekt współfinansowany przez Unię Europejską w ramach Europejskiego Funduszu Społecznego

Drzewa Zachowań Przechwytywanie zdarzeń Węzeł obsługujący zdarzenie może poprosić "rodzica" o reewaluację ponieważ zdarzenie zmieniło jego stan wewnętrzny Projekt współfinansowany przez Unię Europejską w ramach Europejskiego Funduszu Społecznego

Rozwinięcia Drzew Zachowań Narzucane zadania Projekt współfinansowany przez Unię Europejską w ramach Europejskiego Funduszu Społecznego

Rozwinięcia Drzew Zachowań Sekwencje Projekt współfinansowany przez Unię Europejską w ramach Europejskiego Funduszu Społecznego

Rozwinięcia Drzew Zachowań Dekoratory Bardzo często będziemy spotykali się z zapotrzebowaniem na akcje AI, które właściwie już zaimplementowaliśmy, ale do których potrzebujemy wprowadzić "małe" zmiany. Potrzebujemy alternatywy dla mechanizmu dziedziczenia klas akcji. Wykorzystajmy wzorzec projektowy "dekorator" do zmodyfikowania działania węzła potomnego. Umożliwia budowanie całego AI w oparciu o bardzo podstawowe, ale dodatkowo oskyptowane akcje. Właściwie stosowane dekoratory upraszczają cały system AI, zmniejszają ilość klas, zależności projektowych i zapobiegają karkołomnemu dziedziczeniu. Projekt współfinansowany przez Unię Europejską w ramach Europejskiego Funduszu Społecznego

Rozwinięcia Drzew Zachowań Konfiguracja By umożliwić prawdziwy reuse kodu, skalowalność systemu i ograniczyć stosowanie metody Kopjego-Pejsta: Najpierw oczywistość: wszystkie węzły drzewa powinny móc być parametryzowane z poziomu definicji AI. Projekt współfinansowany przez Unię Europejską w ramach Europejskiego Funduszu Społecznego

Rozwinięcia Drzew Zachowań Konfiguracja Projekt współfinansowany przez Unię Europejską w ramach Europejskiego Funduszu Społecznego

Rozwinięcia Drzew Zachowań Konfiguracja By umożliwić prawdziwy reuse kodu, skalowalność systemu i ograniczyć stosowanie metody Kopjego-Pejsta: Najpierw oczywistość: wszystkie węzły drzewa powinny móc być parametryzowane z poziomu definicji AI. Pozwólmy zapisywać dowolne definicje AI (również całe Drzewa Zachowań) by wykorzystywać je w innych definicjach na równi z wbudowanymi zachowaniami. Projekt współfinansowany przez Unię Europejską w ramach Europejskiego Funduszu Społecznego

Rozwinięcia Drzew Zachowań Konfiguracja Projekt współfinansowany przez Unię Europejską w ramach Europejskiego Funduszu Społecznego

Rozwinięcia Drzew Zachowań Konfiguracja By umożliwić prawdziwy reuse kodu, skalowalność systemu i ograniczyć stosowanie metody Kopjego-Pejsta: Najpierw oczywistość: wszystkie węzły drzewa powinny móc być parametryzowane z poziomu definicji AI. Pozwólmy zapisywać dowolne definicje AI (również całe Drzewa Zachowań) by wykorzystywać je w innych definicjach na równi z wbudowanymi zachowaniami. Niech zapisane definicje AI mogą również parametryzować się dowolnymi zmiennymi. Projekt współfinansowany przez Unię Europejską w ramach Europejskiego Funduszu Społecznego

Rozwinięcia Drzew Zachowań Konfiguracja Projekt współfinansowany przez Unię Europejską w ramach Europejskiego Funduszu Społecznego

Rozwinięcia Drzew Zachowań Konfiguracja By umożliwić prawdziwy reuse kodu, skalowalność systemu i ograniczyć stosowanie metody Kopjego-Pejsta: Najpierw oczywistość: wszystkie węzły drzewa powinny móc być parametryzowane z poziomu definicji AI. Pozwólmy zapisywać dowolne definicje AI (również całe Drzewa Zachowań) by wykorzystywać je w innych definicjach na równi z wbudowanymi zachowaniami. Niech zapisane definicje AI mogą również parametryzować się dowolnymi zmiennymi. Niech parametrem węzła może być inny węzeł. Projekt współfinansowany przez Unię Europejską w ramach Europejskiego Funduszu Społecznego

Rozwinięcia Drzew Zachowań Konfiguracja Projekt współfinansowany przez Unię Europejską w ramach Europejskiego Funduszu Społecznego

Rozwinięcia Drzew Zachowań Konfiguracja Zależne od parametrów wierzchołki opcjonalne. Projekt współfinansowany przez Unię Europejską w ramach Europejskiego Funduszu Społecznego

Rozwinięcia Drzew Zachowań Blackboard Problem reprezentacji wiedzy i optymalizacji zapytań. AI powinno posiadać pewien obiekt reprezentujący bazę "wiedzy". Możliwe postaci: Aktualizowany na bieżąco zbiór identyfikatorów i ich wartości reprezentujących wiedzę obiektu. Opierający się o uleniwione zmienne obiekt funkcyjny wyliczający częste podzapytania wykonywane przez AI. Hybryda obu powyższych. Projekt współfinansowany przez Unię Europejską w ramach Europejskiego Funduszu Społecznego

Drzew Zachowań Problemy Ciężko reprezentować warunek "jeśli «coś» lub jeśli następujące węzły są niedostępne". Ciężko reprezentować nie deterministyczne drzewa. Projekt współfinansowany przez Unię Europejską w ramach Europejskiego Funduszu Społecznego

Drzew Zachowań Rozwiązanie - rozmyta ewaluacja Projekt współfinansowany przez Unię Europejską w ramach Europejskiego Funduszu Społecznego

Drzew Zachowań Rozmyta ewaluacja Modyfikacja procesu decyzyjnego. Wierzchołki zwracają swój priorytet na podstawie którego podejmowany jest wybór. Można zastosować rozwiązanie hybrydowe (w którym na różnych poziomach mamy różne procesy decyzyjne). Zalety "Mocniejszy" mechanizm Rozwiązuje przedstawione problemy Wady Utrudniona czytelność drzewa Gorsza atomowość zadań Kosztowniejszy proces decyzyjny Projekt współfinansowany przez Unię Europejską w ramach Europejskiego Funduszu Społecznego

Drzew Zachowań Problemy Decyzje a hierarchia. Projekt współfinansowany przez Unię Europejską w ramach Europejskiego Funduszu Społecznego

Hierarchiczne system AI Wszystkie systemy hierarchiczne są podobne! Moja propozycja: niech ciężar implementacyjny spoczywa na klasach węzłów. Implementacje węzłów bazowych są "proste" w odniesieniu do implementacji konkretnych AI przeciwników. Hierarchiczne systemy AI różnią się tylko szczegółami, przy odpowiedniej architekturze możemy swobodnie między nimi się przemieszczać: Hierarchiczne FSM Drzewa zachowań Logika rozmyta Planowanie Projekt współfinansowany przez Unię Europejską w ramach Europejskiego Funduszu Społecznego

Hierarchiczne system AI Przykład: Behavior Tree vs HFSM Projekt współfinansowany przez Unię Europejską w ramach Europejskiego Funduszu Społecznego

Hierarchiczne system AI Nie ma idealnego rozwiązania. Wymyśl własną hybrydę! Projekt współfinansowany przez Unię Europejską w ramach Europejskiego Funduszu Społecznego

Pytania ? Projekt współfinansowany przez Unię Europejską w ramach Europejskiego Funduszu Społecznego

Dziękuję za wykład Garść linków Niezły tekst o Drzewach Zachowań na AIGamedev.com http://aigamedev.com/insider/presentations/behavior-trees/ Drzewa Zachowań w Spore http://chrishecker.com/My_Liner_Notes_for_Spore/Spore_Behavior_Tree_Docs  Goal Oriented Action Planning == FEAR http://web.media.mit.edu/~jorkin/goap.html Drzewa Zachowań a Crysis http://files.aigamedev.com/coverage/GAIC09_CoordinatingAgents_RicardoPillosu.pdf Projekt współfinansowany przez Unię Europejską w ramach Europejskiego Funduszu Społecznego