T-SNE

t-distributed stochastic neighbor embedding) t-SNE) הוא אלגוריתם בלמידה חישובית להורדת ממדים, שפותח על ידי לורנס ואן דר מאטן וג'פרי הינטון.

זאת שיטה לא-ליניארית להורדת ממדים שמתאימה במיוחד להורדת מימד של מרחבים ממימד גבוה למרחבים מממד 2 או 3 (מפות). האלגוריתם ממדל כל אובייקט מהמרחב הרב-ממדי בעזרת נקודה דו ממדית או תלת ממדית כך שאובייקטים דומים ימודלו לנקודות קרובות זו לזו, ואובייקטים רחוקים ימודלו לנקודות רחוקות זו מזו.

אלגוריתם ה-t-SNE כולל שני שלבים עיקריים. בהתחלה האלגוריתם בונה התפלגות עבור כל זוג אובייקטים ממימד גבוה כך שלאובייקטים דומים יש הסתברות גבוהה להיבחר, בעוד שלאובייקטים לא דומים יש הסתברות נמוכה מאוד (אינפיניטסימלית) להיבחר. שנית, האלגוריתם מגדיר התפלגות באופן דומה עבור כל זוג נקודות במפה ממימד נמוך. לאחר מכן האלגוריתם מנסה להביא למינימום את דיברגנץ קולבק-ליבלר (Kullback–Leibler divergence) בין שתי ההתפלגויות, ביחס למיקומים של הנקודות על המפה. האלגוריתם המקורי משתמש במרחק אוקלידי כדי למצוא מרחק בין שני אובייקטים, אך ניתן להשתמש במטריקות אחרות לחישוב המרחק.

אלגוריתם t-SNE שימושי במגוון רחב של תחומים, כגון אבטחת מחשב אישי ברשת, ניתוח מוזיקלי, חקר הסרטן וביואינפורמטיקה.

פרטי האלגוריתם

בהינתן סט של $N$ אובייקטים ממימד גבוה, ${\mathbf{𝐱}}_1,\dots ,{\mathbf{𝐱}}_N$, האלגוריתם מחשב קודם את ההסתברויות $p_{ij}$ שהן פרופורציוניות לדמיון בין האובייקטים ${\mathbf{𝐱}}_i$ ו ${\mathbf{𝐱}}_j$, באופן הבא:

$p_{j|i}=\frac{\exp (-\Vert {\mathbf{𝐱}}_i-{\mathbf{𝐱}}_j{\Vert }^2/2{\sigma }_i^2)}{\sum _{k\ne i}\exp (-\Vert {\mathbf{𝐱}}_i-{\mathbf{𝐱}}_k{\Vert }^2/2{\sigma }_i^2)},$

$p_{ij}=\frac{p_{j|i}+p_{i|j}}{2N}$

כאשר ${\sigma }_i$ נקבע כך שה-perplexity (מידת השוואה להתפלגויות) של ההתפלגויות שהוגדרו (Q,P) יהיה שווה ל-perplexity מסוים שנקבע מראש על ידי חיפוש בינארי.

מטרת ה-t-SNE היא ללמוד מפה $d$-ממדית ${\mathbf{𝐲}}_1,\dots ,{\mathbf{𝐲}}_N$ ( עם ${\mathbf{𝐲}}_i\in {\mathbb{ℝ}}^d$), שמשקפת את $p_{ij}$ בצורה כמה שיותר טובה. בשביל מטרה זו היא מודדת את $q_{ij}$, הדמיון בין 2 נקודות במפה,${\mathbf{𝐲}}_i$ ו ${\mathbf{𝐲}}_j$, בצורה דומה לחישוב $p_{ij}$:

$q_{ij}=\frac{(1+\Vert {\mathbf{𝐲}}_i-{\mathbf{𝐲}}_j{\Vert }^2{)}^{-1}}{\sum _{k\ne l}(1+\Vert {\mathbf{𝐲}}_k-{\mathbf{𝐲}}_l{\Vert }^2{)}^{-1}}$

האלגוריתם משתמש בהתפלגות t כדי למדוד דמיון בין נקודות על המפה.

מיקום הנקודות ${\mathbf{𝐲}}_i$ במפה נקבעות על ידי מינימיזציה של דיברגנץ קולבק-ליבלר של ההתפלגות Q מההתפלגות P, כלומר הבאה למינימום של: $KL(P||Q)=\sum _{i\ne j}{p}_{ij}\log \frac{p_{ij}}{q_{ij}}$

המינימיזציה של Kullback–Leibler divergence ביחס לנקודות ${\mathbf{𝐲}}_i$ מתבצע באמצעות אופטימיזציית gradient descent.

התוצאה של האופטימיזציה היא מפה שמשקפת בצורה טובה את הדמיון בין קלטי המרחב הרב ממדי.

קישורים חיצוניים

• אתר האינטרנט הרשמי של T-SNE

הערך באדיבות ויקיפדיה העברית, קרדיט,
רשימת התורמים
רישיון cc-by-sa 3.0

T-SNE28888661