ZADANIA NA PRACOWNIĘ  W DNIACH 5.XI, 12 XI, 19 XI i 26.XI  2009


A.   Załaduj plik binarny 'seungFaces.mat'  dostępny na Posejdonie
	w folderze aba\abaFiles\.
	Otrzymasz 4 macierze (tablice) w pamięci (workspace) Matlaba. 
	Zatrzymaj tylko dwie z nich (facesTrain i FacesTrainLabs), usuń
	pozostałe.
 	a) Zobacz, co zawierają te pliki
	b) zobrazuj kilka wybranych kolumn  zmiennej facesTrain, np.
                       [N, d]=size(facesTrain), k=ceil(rand(1)*N);
                       x=facesTrain(:,k); imagesc(reshape(x,19,19))
	b) Utwórz z danych 'facesTrain' dwie nowe zmienne o nazwach
	     X1  i X2 zawierające odpowiednio tylko twarze  i nie-twarze.
	     Utworzone zmienne powinny mieć postać tablicy o rozmiarach nxd,
	     gdzie n jest liczbą 'twarzy' (lub 'nie-twarzy')                 
	d) Zbadaj wymiarowość danych znajdujących się w utworzonych
	     tablicach - stosując w tym celu metodę składowych głównych
	     Hotellinga. Ile składowych głównych jest potrzebnych aby
	     odtworzyć 90% (lub 95%) zmienności całkowitej każdej z tablic?
	     Niech P90 (lub P95) oznacza znalezioną liczbę składowych
	        (liczba ta bedzie w dalszym ciągu oznaczać przybliżoną 
	     wymiarowość danych)
	
	DO DALSZEJ ANALIZY WYBIERZ TYLKO JEDEN ZE ZBIORÓW ZAWIERAJĄCYCH
	TWARZe LUB NIE-TWARZe,CZYLI JEDNĄ Z MACIERZY X1 LUB X2.         
        e) Wyznacz dla wybranego zbioru i przyjętej wartości P (P<<d) składowe
	        główne, czyli tablicę Y o rozmiarze nxP
	f)  Zrekonstruuj z  tablicy Y oryginalną tablicę danych (czyli X1 lub X2)
	    nazwij zrekonstruowane tablice X1hat (lub X2hat)
	g) Przyjmij jakąś liczbę całkowitą K, dla ilu twarzy (lub nie-twarzy)
	        chcesz sprawdzić rekonstrukcję za pomocą K składowych.
	h) Dla k=1,...,K 
		wylosuj jeden wiersz 'nr' ze zbioru X1 (lub X2), 
		wyświetlaj na figurze, pierwszym subplocie oryginalną twarz 
		o numerze 'nr',  a na drugim subplocie odpowiadającą jej twarz
		odtworzoną (znajdującą się w tablicy X1hat lub X2hat).  
		Jak można określić podobieństwo między oryginalną a odtworzoną 
		twarzą?
Wskazówki .  Metoda składowych głównych została omówiona na wykładzie
w dniu 3.XI,09, gdzie pokazano również skrypt "jwtorek3XI.m" implementujący
tę metodę.  Metoda ta jest równiez opisana w Notatkach do wykładu "Sieci
neuronowe" z r. 08/09, jako rozdział VI pt. "Uczenie wg. zasady Hebba, Składowe
główne".
	        
B)  Budowa funkcji dyskryminacyjnej dla twarzy i nie-twarzy.
Pozostawiamy tylko zmienne facesTrain i facesTrainLabs, wszystkie inne 
zmienne usuwamy z pamięci (workspace).
Oryginalne dane są w formacie 'double' (gdyby były w formacie 'uint8', to 
zamieniamy je na 'double'.)
Sieć neuronowa składa się z 361 wejść, 1 neuronu ukrytego z funkcją aktywacji
logistic, oraz jednego wyjścia.
Sieć tę trenujemy metodą sekwencyjnego poprawiania wag w(k+1)=w(k)+delta(w(k)),
gdzie k  jest numerem iteracji, a delta(w(k))  poprawką wyznaczaną z ujemnego
gradientu funkcji błędu (algorytm omawialiśmy szczegółowo na wykładzie 
i na jednym z laboratorium).

Wyuczona sieć po pokazaniu jej jednego z obrazków powinna podać nam 
prawdopodobieństwo, że dany obrazek przedstawia twarz.

Proszę obliczyć wyniki wyuczonej sieci dla wszystkich obrazków zawartych 
w tablicy facesTrain. Obliczyć macierz pomieszania. 
Wykreślić również - na jednym rysunku, dwa  transparentne histogramy, 
odpowiadające  wynikom sieci dla twarzy i dla nietwarzy, każdy histogram 
innym  kolorem,

Wskazówki. Trenowanie sieci można zaprogramować samemu lub skorzystać
z funkcji "seung2" dostępnej na posejdonie w folderze "aba\abaFiles\".
Uwaga: we wnętrzu funkcji seung2 następuje dodatkowa standaryzacja danych
na [0, 1]  którą otrzymuje się w przypadku naszych danych przez podzielenie
obliczanego wektora danych przez 255 (tj. przez maksymalną wartość piksli).
Wagi obliczone przez funkcję seung2 odnosza się do tak standaryzowanych danych.
Należy to uwzględnić przy obliczaniu wartości prognozowanych.


C)  Mapa Kohonena z 3 literek   (Raport nr 2, proszę przysłać mailem makro,
zawierające w pierwszej linijce nazwisko autora, temat i datę.
Macro powinno być zredagowane pod edytorem Matlaba przy opcji 'publish to html',
jednak proszę przysłać mi oryginalne macro a nie rezultat html przeznaczony
do publikacji. Oczywiście,!!! bez rysunków!!! i żadnych zipów.)
	i. Wykonaj plik lettersUCI.m  (z Posejdona  aba\abaFiles).
	Otrzymasz dane 20000 literek o 17 cechach: pierwsza cecha zawiera 
	identyfikator literki przedstawionej w danym wierszu, dalsze 16 cech 
	zawieraja cechy morfologiczne literki sygnalizowanej na początku wiersza.
	 Oryginalne dane wraz z opisem znajdują się na University
	of California at Irvine - data repostitory.
        ii. Wybierz 3 różne literki (np. inicjał imienia i dwie literki z nazwiska).
        iii. Skompletuj nową  tablicę danych (X) zawierającą wszystkie instancje
	wybranych 3 literek; tablica jest rozmiaru Nx16, tj. zawierać we wierszach
	16 charakterystyk literek, a liczba wierszy ma być równa N, oznaczające
	łączną liczbę wystąpień wszystkich 3 literek.
	     Identyfikatory literek zapamiętaj w oddzielnym wektorze.
        iv. Skonstruuj mapę Kohonena (o strukturze heksagonalnej) 
                         dla danych znajdujących się w tablicy X
	     (w mapach Kohonena nie tworzymy próbek uczącej i testowej)	                   
	v.  Zastosuj technikę "hitów" do zaznaczenia na mapie ile wektorów
	     danych jest reprezentowanych przez kolejne neurony:
	vi. Zastosuj technikę "hitów" do zaznaczenia na mapie przez które
	     neurony na mapie są repreentowane wybrane 3 literki. Poszczególne
	     literki zaznacz odrębnymi kolorami.
	vii. Skomentuj wyniki. Czy mapa dobrze reprezentuje topologię
	     16-to wymiarowej przestrzeni danych w ktorej znajdują się
	      wybrane 3 literki?

Wskazówki .  Mapy Kohonena  są opisane w Notatkach do wykładu "Sieci
neuronowe" z r. 08/09, jako rozdział VI pt. "Mapy Kohonena". Znajdują sie tam
dalsze odnośniki, m.in. opis pakietu Matlab SOM Toolbox opracowanego 
w Helsinkach, który to pakiet zawiera cztery moduły demonstracyjne som_demo1,
som_demo2, som_demo3, som_demo4. Pakiet ten jest zainstalowany w naszej
pracowni w podkartotece Matlaba o nazie toolbox, ale na razie Matlab tego
pakietu nie widzi i trzeba samemu ustawiać ścieżkę.