Fizyczna organizacja danych w bazie danych Wykład 7

Prezentacja na temat: "Fizyczna organizacja danych w bazie danych Wykład 7"— Zapis prezentacji:

1 Fizyczna organizacja danych w bazie danych Wykład 7
PJWSTK, SZB, Lech Banachowski 1

2 Spis treści Model fizyczny bazy danych Zarządzanie miejscem na dysku
Zarządzanie buforami (w RAM) Organizacja zapisu na dysku rekordów, stron i plików

3 Model fizyczny bazy danych
- jest oparty na pojęciu pliku i rekordu Plik składa się z rekordów w tym samym formacie. Format rekordu jest listą nazw pól. Rekord składa się z wartości poszczególnych pól. Niektóre pola są wyróżnione jako klucz rekordu – ich wartości jednoznacznie identyfikują cały rekord. Podstawowymi operacjami na pliku są: Wstawianie - wstaw rekord do pliku. Usuwanie - usuń rekord z pliku. Modyfikacja - zmodyfikuj zawartość pól w rekordzie w pliku. Wyszukiwanie - znajdź w pliku rekord(y) z podaną wartością w danym polu lub spełniające podane warunki.

4 Dyski i pliki SZBD przechowuje dane na twardych dyskach.
Stąd konieczność stosowania operacji We/Wy: Odczyt (READ): przesłanie danych z dysku do pamięci RAM. Zapis (WRITE): przesłanie danych z pamięci RAM na dysk. Obie operacje są o rząd wielkości wolniejsze niż operacje w pamięci RAM – powinny być stosowane umiejętnie! Koszt operacji na bazie danych jest przedstawiany jako liczba operacji We/Wy.

5 Dlaczego nie można przechowywać danych w pamięci RAM?
Pamięć RAM jest chwilowa. Za duży koszt. 32 bitowe adresowanie ogranicza ilość danych . Typowa hierarchia pamięci w bazie danych: Pamięć RAM dla danych używanych w bieżącej chwili. Dysk dla głównej bazy danych. Zewnętrzny nośnik danych – np. taśma dla archiwalnych wersji danych. Ten sam rekord może być jednocześnie zapisany w trzech różnych miejscach! 19

6 Dyski Dostęp swobodny (random access) – w przypadku dysków; dostęp sekwencyjny – w przypadku taśm. Dane są przechowywane i przekazywane w jednostkach nazywanych blokami dyskowymi lub stronami. 20

7 Dostrajanie operacji dyskowych
Inaczej niż w przypadku RAM, czas dostępu do danych na dysku zależy od ich położenia na dysku. Dlatego wzajemne rozmieszczenie stron na dysku może mieć zasadniczy wpływ na szybkość działania SZBD! Najlepiej operować ciągami sąsiadujących ze sobą stron. Dąży się do tego, aby dane, które są często wykorzystywane przez programy aplikacyjne, na stałe przebywały w buforach pamięci RAM (tzw. cachowanie). Dostęp do nich jest wtedy bardzo szybki. Operacje odczytu i zapisu bloków na dysku mogą być realizowane współbieżnie. Stąd opłaca się aby transakcje użytkowników były realizowane przez system współbieżnie a nie sekwencyjnie.

8 Dyskowy model fizyczny
Relacja (tabela) jest reprezentowana przez plik dyskowy. Plik dyskowy składa się ze stron. Strona składa się z rekordów. Rekord składa się z pól. Atrybut Wiersz Relacja (tabela) Pole Rekord Strona (blok) Plik

9 Dyskowy model fizyczny - uzupełnienie
Gdy rozmiar rekordu większy niż rozmiar strony, rekord jest dzielony na części przechowywane na osobnych stronach (najlepiej sąsiadujących na dysku). Gdy schemat dostępu do danych polega na użyciu powiązanych danych z dwóch lub więcej tabel (np. departamenty i ich pracownicy; klienci, zamówienia i pozycje zamówień), w jednym pliku są zbierane dane z kilku tabel w oparciu o wspólny klucz (np. numer departamentu czy identyfikator klienta).

10 Duże obiekty LOB są zwykle trzymane w osobnych obszarach przeznaczonych do ich przechowywania w bazie danych, zwykle jako ciąg sąsiednich stron. W rekordach z danymi znajdują się tylko ich lokalizatory.

11 Hierarchia nośników przechowywania danych
taśma magnetyczna 1015 dyski optyczne 1013 dyski magnetyczne pamięć elektroniczna pomocnicza 1011 Pojemność (bajty) pamięć elektroniczna główna 109 107 105 cache 103 10-9 10-6 10-3 10-0 103 Czas dostępu (sec)

12 Zarządzanie miejscem na dysku
Realizowane funkcje: Alokacja/dealokacja strony. Odczyt/zapis strony. Sekwencyjna alokacja ciągu stron. Wyznaczenie strony do zapisu nowego rekordu. Aktualizacja struktur danych na dysku związanych z przechowywanymi stronami. Podstawową jednostką operacyjną jest strona 24

13 Zarządzanie buforami (w RAM)
Proces zgłasza zapotrzebowanie na stronę PULA BUFORƠW Strona dyskowa Wolna ramka RAM Np.. Dwie tablice haszowane DYSK BD Wybór ramki dyktowany strategią zastępowania Dane muszą być w RAM aby SZBD mógł na nich operować! Tablica par <nr_ramki, id_strony>. 4

14 Dodatkowe struktury danych
Dla każdej ramki: licznik odwołań - ile różnych procesów używa ramki w danej chwili. Na początku po umieszczeniu strony w ramce: licznik odwołań = 1; Dla każdej ramki: bit modyfikacji – czy po sprowadzeniu do pamięci RAM zawartość ramki została zmodyfikowana (stan "dirty"), co oznacza, że strona na dysku będąca źródłem zawartości ramki może już być inna niż zawartość ramki w pamięci RAM. Na początku po umieszczeniu strony w ramce: bit modyfikacji = false. Ponadto wszystkie ramki, których licznik odwołań = 0, tworzą listę wolnych ramek. Być może wstawiane na listę z opóźnieniem Lista ta jest porzadkowana np.. LRU

15 Gdy procesorowi jest potrzebna strona...
Gdy nie ma jej w puli buforów: Wybierz ramkę o liczniku odwołań = 0 . Jeśli strona w ramce została zmieniona (bit modyfikacji = true), zapisz ją na dysk. Wczytaj potrzebną stronę w wybraną ramkę. Ustaw licznik odwołań do tej strony na jeden, a bit modyfikacji na false.. Gdy strona jest w puli buforów, zwiększ jej licznik odwołań o jeden. Przekaż procesowi wskaźnik do ramki ze stroną. Blokady Jeśli można z góry przewidzieć (np. przeglądanie sekwencyjne) sprowadza się od razu kilka stron! 5

16 Zarządzanie buforami – c.d.
Gdy zmienia się zawartość strony: Zostaje ustawiony bit modyfikacji = true. Strona w buforze może być potrzebna wielu procesom: Nowe zapotrzebowanie na stronę zwiększa jej licznik odwołań o jeden. Gdy proces zwalnia stronę, jej licznik odwołań zmniejsza się o jeden. Strona staje się kandydatem do zastąpienia gdy jej licznik odwołań = 0. 6

17 Strategie zastępowania stron w ramkach
LRU – najdłużej nie używana, Clock - cyklicznie, MRU – ostatnio używana. Sekwencyjne zalewanie puli ramek: LRU + powtarzane sekwencyjne przeglądanie pliku. # ramek < # stron oznacza, że każde żądanie strony powoduje operację We/Wy. MRU lepsze w tym przypadku. LRU najbardziej naturalne, ale nie zawsze optymalne 7

18 Proces obsługujący zlecenie użytkownika:
najpierw oblicza adres strony, na której znajduje się dany rekord, sprawdza czy strona jest w puli buforów, jeśli jej nie ma, sprowadza stronę z dysku i umieszcza ją w buforze pamięci RAM (przy tych operacjach są wywoływane moduły zarządzania miejscem na dysku i zarządzania buforami w pamięci RAM), wydobywa z niej szukany rekord i przekazuje go użytkownikowi.

19 Formaty rekordów: stała długość
L1 L2 L3 L4 Adres bazowy (B) Adres = B+L1+L2 Typy pól takie same dla wszystkich rekordów w pliku; zapisane w słowniku danych (katalogu systemowym). 9

20 Formaty rekordów: zmienna długość
Dwa alternatywne formaty (# pól jest stała): F F F F4 4 $ Pola rozdzielone specjalnym symbolem Licznik pól F F F F4 Tablica offsetów pól W drugim przypadku: bezpośredni dostęp do wartości i-tego pola; efektywne przechowywanie wartości null. 10

21 Formaty stron: rekordy stałej długości
1 1 2 2 . . . Wolne miejsca . . . N N M N 1 . . . 1 1 M M liczba rekordów liczba pozycji rid (id rekordu) = <id_strony, nr_pozycji>. W pierwszym przypadku, przesuwanie rekordów powoduje zmianę id rekordu, co komplikuje odwołania do rekordu przez id rekordu (rid). 11

22 Formaty stron: rekordy zmiennej długości
rid = (i,N) Strona i rid = (i,2) rid = (i,1) 20 16 24 N Wskaźnik do puli wolnych miejsc N # pozycji Tablica pozycji Można przesuwać rekordy po stronie bez zmiany rid – można także zastosować dla rekordów stałej długości. 12

23 Plik rekordów PLIK: kolekcja stron, każda zawierająca zbiór rekordów:
wstawianie/usuwanie/modyfikowanie rekordów, odczytanie konkretnego rekordu (o podanym rid), wyszukanie wszystkich rekordów (spełniających podane warunki). 13

24 Plik nieuporządkowany (heap)
Rekordy są przechowywane na stronach w dowolnym porządku. Nowy rekord jest wstawiany do pierwszej strony, na której jest wolne miejsce. Przy wyszukiwaniu trzeba przejść po wszystkich stronach do chwili napotkania szukanego rekordu. Sterta Chyba ze jest indeks (wyszukiwanie) 14

25 Plik nieuporządkowany (listy) implementacja – dwie listy
Strona danych Strona danych Strona danych Strony pełne Strona pocz. Strona danych Strona danych Strona danych Strony z wolnymi miejscami Wstawianie nowego rekordu Usuwanie rekordu 15

26 Plik nieuporządkowany implementacja – katalog stron
Strona danych pocz. Katalog (bitmapa) Wstawianie nowego rekordu Usuwanie rekordu 16

27 Plik posortowany Rekordy są zapisywane na kolejnych stronach zgodnie z porządkiem względem klucza rekordu. Taka reprezentacja jest wygodna gdy rekordy przetwarza się zawsze w pewnym, ustalonym porządku lub tylko pewien ich zakres względem tego porządku np. SELECT * FROM Emp e ORDER BY e.Sal lub SELECT * FROM Emp e WHERE e.Sal BETWEEN 1000 and 2000 W pliku posortowanym wyszukanie rekordu mając dany jego klucz jest nieco szybsze niż dla pliku nieuporządkowanego, ale ze względu na to, że rekordy znajdują się na dysku, zastosowanie jednej z szybkich metod wyszukiwania jak wyszukiwanie binarne nie jest w pełni możliwe. Skomplikowane stają się operacje wstawienia nowego rekordu do pliku jak i usunięcia rekordu z pliku.

28 Implementacja pliku posortowanego
1. Pełny ekstent – stron sąsiadujących ze sobą na dysku – rekordy uporządkowane według wartości klucza. Jest problem ze wstawieniem nowego rekordu i usunięciem rekordu z pliku. Jest możliwość zastosowania wyszukiwania binarnego. 1 3 5 8 34 2. Lista stron (lub ekstentów) – rekordy uporządkowane według wartości klucza. Nie ma problemu ze wstawieniem nowego rekordu i usunięciem rekordu z pliku. Nie ma bezpośredniej możliwości zastosowania wyszukiwania binarnego. Strony nie musza być w pelni wypelnione Wstawianie nowego rekordu Usuwanie rekordu 1 3 5 8 34

29 Plik haszowany Plik jest kolekcją “segmentów” (ang. bucket). Segment = strona główna plus zero lub więcej stron nadmiarowych. Funkcja haszująca h: h(r) = “segment” do którego wpada rekord r. h bierze pod uwagę tylko niektóre pola r, nazywane polami wyszukiwania. Wstawianie nowego rekordu Usuwanie rekordu Organizacja pliku haszowanego jest użyteczna przy wyborze rekordu z pliku w oparciu o wartość lub wartości pewnych pól rekordu np. przy wykonywaniu zapytania SELECT * FROM Emp e WHERE e.Ename=:Nazwisko