Współczesne metody intensywnego przetwarzania danych High-performance computing & data-intensive processing: czym to jest, jak się ma do potrzeb dzisiejszego.

Prezentacja na temat: "Współczesne metody intensywnego przetwarzania danych High-performance computing & data-intensive processing: czym to jest, jak się ma do potrzeb dzisiejszego."— Zapis prezentacji:

1 Współczesne metody intensywnego przetwarzania danych High-performance computing & data-intensive processing: czym to jest, jak się ma do potrzeb dzisiejszego świata i jak jest realizowane Technologia Aplikacje: energetyka Wojciech Wiślicki, wiosna 2010

2 Produkcja i przechowywanie informacji

3 Przetwarzanie informacji: prawo Moora dla CPU

4 Przechowywanie informacji: prawo Moora dla nośników

5 Przesyłanie informacji: prawo Moora dla sieci

6 Wnioski Choć przyrost pamięci masowej jest bardzo szybki (2 rzędy wielkości/ 10 lat), to produkcja informacji przerasta możliwości jej magazynowania Podobnie szybko rosną możliwości CPU Jeszcze nieco szybciej rośnie przepustowość sieci, czyli rośnie stosunek: (liczba bitów w ruchu)/(liczba bitów statycznych)

7 Wnioski, c.d. Prawdopodobnie więcej informacji będziemy w przyszłości reprodukowali w określonym celu i silniej będziemy ją redukowali przed zapisem (produkcja informacji on demand,) Być może część informacji nie będzie miała określonej lokalizacji na czas swojego (krótkiego) życia (wirtualizacja)

8 Technologia: hardware Procesory i architektury wieloprocesorowe Pamięć masowa: nośniki, organizacja, dostęp Sieci: komunikacja lokalna i wielkoskalowa

9 Technologia: hardware

10 Technologia: software Oprogramowanie procesora Systemy operacyjne Języki wysokopoziomowe Protokoły komunikacji Bazy danych

11 Technologia: organizacja zasobów i komunikacji, zarządzanie Przetwarzanie równoległe (Parallell Computing) Przetwarzanie rozproszone (Distributed Computing) Serwisy sieciowe i architektura zorientowana na usługi (Service-Oriented Architecture) Grid i Cloud

12 CPU Układ scalony: monokryształ Si + tranzystory w warstwach półprzewodnikowych, nanoszonych fotolitograficznie Złocone wyprowadzenia metalowe

13 CPU, c.d. Podstawowa zasada: sekwencyjne wykonywanie ciągu instrukcji: FETCH (odczyt) instrukcji (IF) lub danych (DF) DECODE (dekodowanie) wartości instrukcji (co robi) i adresu danych (gdzie dane w pamięci) EXECUTE (wykonanie instrukcji), związane z sięgnięciem do obszarów pamięci, w których są dane WRITEBACK (zapis wyników)

14 CPU, podstawowe przetwarzanie skalarne (subscalar) w architekturze Single Instruction Single Data (SISD)

15 CPU: realizacje zrównoleglania Zrównoleglenie na poziomie instrukcji (Instruction Level Parallelism ILP) Zrównoleglenie na poziomie wątków (Thread Level Parallelism TLP) Zrównoleglenie na poziomie danych (Data Level Parallelism)

16 Instruction Level Parallelism (or Pipelining)

17 Instruction Level Parallelism (or Pipelining), c.d Zredukowanie zbioru instrukcji (RISC) w porównaniu do tradycyjnego, rozbudowanego zbioru (CISC) + zastosowanie potokowości, dały przełom w postaci nowoczesnej architektury procesorów

18 Parallel Computing Implementation, np. Multiple Instruction Single Data (MISD)

19 Data Parallelism (or vector processing), np. Single Instruction Multiple Data (SIMD)

20 Thread Level Parallelism (or Parallel Computing) Podział logiczny programów na części słabo zależne (wątki) Kombinacja strategii MISD i SIMD w strategię MIMD, tak aby zapewnić równoległe wykonywanie wątków

21 Integracja modułów: rack mount

22 Dalsza integracja modułów: blade servers

23 Co robić, gdy nie wystarczają lokalne zasoby obliczeniowe.. lub gdy nie ma sensu lokować ich wszystkich w jednym miejscu? I kiedy to może się stać?

24 Internet --> WWW --> Grid Prekursorem było SETI@home WWW: Tim Barners-Lee, CERN, ok. 1990 GRID: Ian Foster & Carl Kesselman, ANL, ok. 2000

25 Dlaczego GRID? Złożoność problemów Złożoność urządzeń i grup ludzkich

26 Czym jest grid? Grid jest rodzajem rozproszonego computingu, tzn. do zadania używamy zasobów zlokalizowanych w różnych miejscach i połączonych siecią Grid organizuje przetwarzanie danych, zarówno zasoby, jak użytkowników, lecz nie zarządza nimi centralnie. Zasoby należą do różnych właścicieli Używane są tzw. open standards Zapewnia Quality of service

27 Pierwszy historycznie przykład GRIDu: SETI @ home Każdy komputer podłączony do Internetu może zainstalować oprogramowanie do analizy danych z radioteleskopu San Mateo CA Niebo podzielone jest na małe obszary i każdy komputer dostaje kawałek do przeanalizowania w czasie, gdy jest nieobciążony (zasada screen-savera)

28 Pierwszy historycznie przykład GRIDu: SETI @ home, c.d. Poszukuje się w widmie częstości struktur niepodobnych do znanych wzorców

29 Pierwszy historycznie przykład GRIDu: SETI @ home, c.d. Obecnie SETI @ home ma 5.5 mln uczestników SETI @ home nie jest jednak prawdziwie rozwiniętym gridem (brak prawdziwych serwisów i QoS)

30 Pierwszy historycznie przykład GRIDu: SETI @ home, c.d. Dotychczas (ok. 10 lat) nie znaleziono ET

31 Architektura gridu (opartego na systemie gLite) Model przetwarzania danych Łączność: sieć GEANT i sieciowa koordynacja operacyjna ruchu Organizacja w dużej skali: struktury globalne, federacje, społeczności użytkowników Struktura węzła gridowego Dostęp do zasobów i usługi gridowe Aplikacje

32 Europejska sieć szkieletowa GEANT

33 Wielowarstwowy (multi-tier) model przetwarzania danych: LHC w CERN

34 Organizacja GRIDU z lotu ptaka Pl: NREN=PIONIER, RGI=PlGrid

35 Podstawowe elementy struktuaralne: węzły gridowe

36 Podstawowe usługi gridowe (system gLite) Katalogi zbiorów i metadanych Workflow management Monitoring Accounting Zarządzanie rozproszonymi zbiorami danych Zarządzanie wirtualnymi organizacjami użytkowników Wsparcie dla użytkowników

37 Dostęp do gridu Trzeba skutecznie rozpoznać użytkownika i dać mu bezpieczny dostęp do zasobów obliczeniowych

38 Dostęp do gridu, c.d. Grid Security Infrastructure, oparta na certyfikatach dla użytkowników, wystawianych przez narodowe Certificate Authorities Certyfikaty użytkowników w formacie X.509, umożliwiające autentykację (sprawdzenie tożsamości) użytkownika Autoryzacja na zasoby udzielana w ramach wirtualnych organizacji przez serwisy Virtual Organization Membership Service (VOMS)

39

40 Trochę statystyki: Enabling Grids for E-science 54 kraje, 267 węzłów sieciowych 114 000 CPU dostępnych 24/7 20 PB pamięci dyskowej + tape MS 200 wirtualnych organizacji 16 000 użytkowników 150 000 zadań/dzień 15 obszarów tematycznych aplikacji

41

42 Worldwide LHC Computing Grid

43 Infrastruktura obliczeniowa Serwisy produkcyjne (PS), używane w bieżącej pracy operacyjnej, np. Worldwide LHC Computing Grid Serwisy pre-produkcyjne (PPS), używane do testowania nowych narzędzi i usług gridowych przed ich wdrożeniem do produkcji Infrastruktura szkoleniowa (portal szkoleniowy GILDA), umożliwiająca przeprowadzanie kursów gridowych bez wpuszczania użytkowników na infrastrukturę produkcyjną

44 Infrastruktura obliczeniowa Serwisy produkcyjne (PS), używane w bieżącej pracy operacyjnej, np. Worldwide LHC Computing Grid Serwisy pre-produkcyjne (PPS), używane do testowania nowych narzędzi i usług gridowych przed ich wdrożeniem do produkcji Infrastruktura szkoleniowa (portal szkoleniowy GILDA), umożliwiająca przeprowadzanie kursów gridowych bez wpuszczania użytkowników na infrastrukturę produkcyjną

45 Aplikacje Dwa największe gridy typu general purpose, to EGEE (EC) i OSG (USA) Ich największymi użytkownikami są eksperymenty nowej generacji w fizyce wysokich energii, głównie przy Large Hadron Collider w CERNie Istnieją też duże aplikacje biomedyczne, geologiczne, meteorologiczne, chemiczne, z fizyki plazmy.., uprawiane zarówno na EGEE, OSG, jak i na gridach dziedzinowych

46 Eksperymenty fizyki cząstek

47

48

49

50

51 Blokowanie neuraminidazy na powierzchni wirusa H5N1

52 t=200μs Migration Desktop Grid Site A Site B Site C 20 GB 4 GB Ultradźwiękowa tomografia

53 Najniższy poziom przetwarzania w gridzie WLCG: Tier-3 Poziom ten nie jest udostępniany w gridzie Służy lokalnym grupom do celów deweloperskich Może być też mocną lokalną farmą do analizy na wysokim poziomie, np. do zrównoleglonej analizy PROOF'em Tier-3 może mieć minimalną funkcjonalność gridową (np. tylko user interface i gridowy transfer danych)

54 Wsparcie dla użytkowników

55 Monitoring gridu: GIIS w Academia Sinica Klaster warszawski w domenie polgrid.pl

56 Monitoring gridu: GIIS w Academia Sinica, c.d. Klaster warszawski w domenie polgrid.pl

57 Trudne do pogodzenia sprzeczności interesów Kto jest właścicielem i kto zarządza zasobami obliczeniowymi? Różne podmioty porozumiewają się, nikt nie zrzeka się praw do swoich części Jeden właściciel i administrator Kto finansuje infrastrukturę i serwisy? Provider(zy): wolny dostęp dla użytkowników Użytkownicy: dostęp płatny

58 Trudne do pogodzenia sprzeczności interesów, c.d. Bezpieczeństwo serwisów i rzetelność infrastruktury Podstawowe bezpieczeństwo w ramach Grid Security Infrastructure, bez odpowiedzialności finansowo-prawnej provider'ów Wysokie wymagania niezawodności (>99.99%) i predefiniowane bezpieczeństwo danych, z określoną odpowiedzialnością finansowo-prawną

59 Dwa modele przetwarzania: GRID vs. CLOUD GRID Współdzielone zasoby należące do wielu właścicieli, znajdujące się w różnych miejscach, połączone, brak zarządzania centralnego. Przykłady: EGEE (EU+), OSG (USA) CLOUD Zasoby rozproszone, lecz zarządzane i posiadane przez jednego właściciela. Użytkownik płaci za usługi (dostęp, cykle, pamięć..) Przykłady: Amazon Elastic Compute Cloud, Google App Engine

60 GRID vs CLOUD Provider: nauka Technologia open source Użytkownik wpływa na infrastrukturę i dostosowuje do specyficznych zadań Złożony – do używania wymagana wstępna wiedza Provider: komercja Technologia proprietary Użytkownik dzierżawi dostęp do zdefiniowanej infrastruktury Prosty w użyciu od poziomu zero

61 GRID vs CLOUD, c.d. Niepewna jakość usług Możliwość tworzenia własnych, specyficznych serwisów Bezpieczeństwo danych: repliki w różnych miejscach Łatwe współdzielenie danych Komercyjnie gwarantowana jakość Brak wysoko- specjalizowanych serwisów aplikacyjnych Bezpieczeństwo danych: specjalna usługa Współdzielenie po wykupie dostępu

62 Pro domo sua: przetwarzanie rozproszone dla energetyki Zadania computingu wspierającego energetykę w Polsce: Konfiguracja i eksploatacja siłowni jądrowych Dystrybucja energii Monitoring zagrożeń radiacyjnych i chemicznych oraz wspomaganie decyzyjne Bezpieczeństwo energetyczne

63 Przetwarzanie rozproszone dla energetyki, c.d. Koncepcja computingu na potrzeby długofalowego programu rozwoju energetyki w Polsce: Centrum Informatyczne w Świerku jako główny węzeł wsparcia informatycznego Architektura CIŚ uwzględniająca specyfikę zadań (kiedy GRID, a kiedy CLOUD?) Specjalne wymagania bezpieczeństwa a rekonfigurowalność klastra

64 Inne przykłady zastosowań: aplikacje interaktywne Symulacja rozprzestrzeniania się zanieczyszczeń w atmosferze Zarządzanie kryzysowe w razie huraganu Projektowanie lekarstwa na ptasią grypę Ultradżwiękowa tomografia komputerowa PT AT SL IE TR GR CY IL LT LV EE BE SE FI RU UK FR LU MT IS IT ES NO HR RO CZ PL SK HU BG 4 4 3 3 3 2 3 2 4 4 4 3 2 3 24 2 2 CH 4 NL 2 2 DK DE

65 Height above Surface in m Zanieczyszczenia w atmosferze

66 LEAD: huragany tropikalne w USA Product Generation Display, Dissemination Models and Algorithms Driving Sensors The CS challenge: Build cyberinfrastructure services that provide adaptability, scalability, availability, useability, and real-time response.

67 Monitoring zagrożeń radiologicznych

68 Monitoring zagrożeń chemicznych

69 Monitoring zagrożeń radiologicznych i chem., c.d. Charakter serwisu wymaga całkowitego bezpieczeństwa danych i gwarantowanej jakości (wysoki poziom Service Level Agreement) Potrzebne zasoby na życzenie (on demand) z możliwością szybkiej alokacji Bezpieczniejszym rozwiązaniem jest CLOUD, aniżeli GRID

70 Zadania off-line, wymagające bezpieczeństwa baz danych, lecz nie obliczeń Transport materii i promieniowania, obliczenia reaktorowe oraz optymalizacja eksploatacji siłowni jądrowych Optymalizacja dystrybucji energii w sieciach, projektowanie sieci przesyłu energii i surowców (zadania typu routingu na grafach i optymalizacji dyskretnej; bardzo wymagające obliczeniowo) Zadania doskonałe dla GRIDu

71 Sieć szkieletowa w CIŚ

72 Rekonfigurowalne zasoby w CIŚ Firewall/Router Wewnętrzny firewall Możliwość odcięcia dostępu Serwer kolejek klastra publicznego WN 1 WN k WN k+1 WN n Serwer instalacji klastra publicznego Serwer kolejek klastra o podwyższonym poziomie bezpieczeństwa WN 1... WN k WN k+1 WN n Procedura bezpiecznego przenoszenia maszyn Serwer instalacji klastra o podw. poz. bezp. Maszyny obliczeniowe Serwery pamięci masowej klastra o podw. poz. bezp. Serwerypamięci masowej klastra publicznego...

73 Parę refleksji końcowych Intensywne przetwarzanie danych ma charakter coraz bardziej rozproszony Infrastruktura staje się niewidoczna dla użytkownika Architekturę gridu determinują usługi (SOA)

74 Parę refleksji końcowych, cd. Dotychczas mówiliśmy o niezbędności gridu - czas na zastosowania, w których pokaże nam swoją niezbędność (prawdopodobnie są za progiem) Bariery ekonomiczne: eksploatacja droższa od inwestycji (na razie dopiero przy klastrach wielkości Google)

75 Parę refleksji końcowych, cd. Dotąd grid nie skomercjalizował się, lecz zapewne zrobi to: Nierozwiązany problem bezpieczeństwa danych Brak modelu biznesowego dla sprzedaży usług aplikacyjnych (nie należy liczyć na sprzedaż gołych zasobów obliczeniowych) Usługi dostępu są zbyt słabo rozwinięte dla masowego odbiorcy