
הטקסט המלא של הדקות הראשונות בהרצאה «הרצאה על Azure Big Data» בקורס הווידאו של PracticU – כתוביות בעברית עם זמן התחלה לכל פסקה. כך תוכלו לקרוא ולחפש את הנושאים לפני שמתחילים ללמוד.
ביג דאטה ואנליטיקה דאטה מגיעה בכל הצורות והפורמטים שאנחנו מתעסקים ומדברים על ביג דאטה. אנחנו מתייחסים לכמות מאוד גדולה של מידע שמגיע.
במקרה שלנו Tailwind Traders אוספים מידע מ-GPS Sensors שהם שולחים לוקיישן אינפורמיישן, קורדינטות של מיקום, דאטה שמגיעה ממערכות Weather Systems, מערכות חיזוי מזג אוויר והרבה מאוד סורסים נוספים, מה שבעצם מייצר המון המון המון המון דאטה.
כדי להתעסק עם הדאטה הזה, זה הופך להיות אתגר אמיתי. איך לנהל אותו, איך לחתוך אותו בצורה חכמה, להבין מה קיבלנו, ואפילו יותר חשוב, איך לבסס את ההחלטות שלנו על המידע שקיבלנו.
הכמות של הדאטה היא כל כך גדולה, עד שכלים רגילים לא יכולים בכלל לתת מענה לזה. לא לפרוססינג של זה, לא לאנליטיקה של זה, הם פשוט לא מתאימים יותר.
עם הזמן התפתחו, במיוחד בעולמות האופן סורס, טכנולוגיות שמנסות להתעסק עם הכמות הגדולה הזאת של מה שנקרא דאטה סטינג.
דאטה סטינג בעצם זה הרבה מידע שמורכב מסטינג שונים של מידע. כמו שראינו פה, יש לנו גם GPS, סטינג של מידע של מערכות מזג אוויר, והרבה מאוד אחרים שלא מפרטים לנו פה, אבל זה יכול להיות מצלמות, זה יכול להיות דאטה בייס חצי רלציוני שמנהל גם רשומות רגילות, זה יכול להיות זיהוי ליכויות רישוי, זה יכול להיות וידאו,
פשוט וידאו רגיל, יכול להגיע מהמון המון מקורות שונים. מייקרוסופט תומכת ביחסית כמות גדולה של טכנולוגיות ושירותים כדי לספק מענה לכל הביג דאטה.
ונושא של אנליטיקה, אנליטיקה זה בעצם היכולת לנתח ולהוציא תובנות, מה אנחנו מבינים מהמידע עצמו. בתוכם אנחנו נראה את אז'ור סיינפס אנליטיקס, אז'ור HD אינסייט, אז'ור דאטה בריקס ואז'ור דאטה לייק אנליטיקס.
בואו נתחיל לדבר על כל אחד מהם. שימו לב שיש ממש כמה שורות, בניגוד לעולמות הדאטאבייס, ששם אנחנו הרחבנו יותר, מייקרוסופט חשוב למאוד שנבין את ההבדלים, פה אנחנו נוגעים על קצה המזלג, אף על פי שהכל שראו פה זה עולם מלואו, אבל לטובת ה-AZ-900 ולטובת הבחינה ולטובת מה שנדרש מאיתנו כרגע, אנחנו נוגעים עם עוף הציפור כדי שרק להבין
מה מדובר. אז נתחיל עם אז'ור סיינפס אנליטיקס, אוקיי, בעבר זה היה נקרא אז'ור SQL Data Warehouse, למה שנקרא limitless, limitless זה חסר גבולות, כמה שתרצו, איזה גודל, איזה צורה, איזה צבע.
Limitless Analytic Service that brings together Enterprise Data Warehousing and Big Data Analytics. הוא משלב בעצם גם את הנושא של הניתוח של ה-Big Data וגם את ה-Data Warehousing, אוקיי, אחסון של ה-Enterprise Data Warehousing, שזה קצת דומה למה שמסד נתונים עושה.
פשוט פה הוא מאגד בתוכו הרבה יותר סוגים של מידע מאשר DataBase רלציוני, כמו שראינו מקודם באז'ור מנאג' אינסטנס או בקוסמוס די.בי או בכל אחד מהדברים האחרים שעברנו עליהם קודם.
אפשר לבצע קווירי, לתשאל את הדאטה בתנאים שלנו, להשתמש בסרוורלס, אנחנו נלמד בהמשך מה זה סרוורלס, אני לא נוגע בזה כרגע, או ריסורסים, משאבים רגילים בסקייל, הכל בסקייל, מה זה אומר?
הכל יכול לגדול, כי הדברים האלה הם, אנחנו יכולים להתחיל מ-E-Tera ויכולים להגיע ל-Peta ול-Exa ולנפחים שהם מטורפים במידע ולכן הכל, כל טכנולוגיה שאנחנו בוחרים ל-Big Data חייבת להיות מותאמת ל-Scale בגדול Limitless.
Limitless, כי אנחנו פשוט לא יודעים לאן נגיע, אוקיי? יש לארגונים נטייה לאסוף דאטה ולא למחוק אותו, כי מהדאטה הזה אפשר להבין המון המון המון תובנות.
יש דוגמה פורסמת של רשת מרכולים בארצות הברית, אני שם עליו שבחורף, אם היא שמה סרטי DVD ליד הקופה, אז אנשים קונים הרבה יותר פופקורן.
ואיך ראו את זה? לפי נתוני ביג דאטה, סטטיסטים שהם ראו שאם הם מוסיפים פופקורן ליד ה-DVD, המחירות של שניהם עולים דרמטיים.
ואם מורידים את הפופקורן, אז רק ה-DVD נמכר, או פחות. ואלה דברים שאפשר להבין. ביג דאטה מאפשר להבין הרבה מאוד תבניות, פאטרנים, מה אנשים נוהגים לעשות, למשל רשתות בארץ, לא נגיד שמות, לא לעשות פרסומת, אבל כל רשתות הפארם הגדולות, הסופרים הגדולות,
כולן עובדות עם ביג דאטה. האם יודעות בדיוק מה קנינו, מתי קנינו, באיזו תדירות אנחנו קונים את זה, האם יכולות להגיד מהקניות בשנייה אחת, אם נולד לנו ילד חדש, אם אנחנו רווקים, נשואים, באיזה אזור בארץ אנחנו גרים, אפילו בלי שנגיד להם.
הם רואים לפי הסוג קניות שלנו, מה המצב הכלכלי שלנו? טוב, לא טוב. האם אנחנו קונים דברים מסוימים וחוזרים אליהם?
האם יכולים להגיד לנו אפילו לחזות מראש מתי גמרו החיתולים לילד? ביג דאטה מאפשר להגיע לנושאים שהם פשוט מדאיגים ברמה שבה אפשר לנתח את ההתנהגות האנושית.
ולכן, אג'ור סיינפס נותן לנו את כל זה. הוא נותן לנו את היכולת לנתח את כל מה שדיברנו עליו. הוא בעצם כולל מה שנקרא Unified Experience - כל הכלים מובנים ביחד לעשות אינג'סט, לנתח את הדאטה, להכין את הדאטה, ל-manage, לנהל את הדאטה ו-serve, להגיש את הדאטה לכל עולמות ה-BI, Business Insights ו-Machine Learning Nets.
כי בדרך כלל הדאטה הזה הוא בעצם נמצא ב-Data Warehouse, במקרה שלנו Azure Synapse, ויש כלים חיצוניים שניגשים אליו, כמו יכולות של Machine Learning שאנחנו נלמד בהמשך, ויכולות של BI שגם בהן אנחנו נלמד נגע בהמשך, שהן בעצם צריכות לגשת לדאטה שהוא כבר מסודר
ומאורגן,