كل فكرة من المحاضرة الأولى بكلام بسيط، ومعاها مثال محلول بالأرقام ورسمة تقدر تحركها بنفسك وتشوف إيه اللي بيحصل.
الـ AI علم بيجمع حاجات كتير مع بعض: رياضة وإحصاء وبرمجة وفهم للمشكلة نفسها. وده مش جديد: إقليدس وصف الفراغ على إنه مسطح، نيوتن بنى عليه قوانينه، وبعدين أينشتاين لقى إن مدار عطارد مش ماشي مظبوط مع حسابات نيوتن، فاستخدم معادلات رياضية بحتة كانت موجودة من قبله عشان يوصف الفراغ والزمن على إنهم منحنيين. يعني الرياضة اللي حد كتبها بدري ممكن تبقى هي المفتاح لمشكلة جديدة خالص.
وأهم فكرة هناخدها من تاريخ الأرقام: المصريين القدماء كانوا بيعدوا حاجات ملموسة. بعدين ظهرت الأرقام السالبة عشان تعبر عن الدين (1 − 2 = −1)، وده لسه على نفس المحور لأنه نفس الـ feature: فلوس معاك أو عليك. وبعدين الصفر عشان يعبر عن "مفيش". لكن لما ظهرت الأرقام التخيلية (Cardano) مكانش ينفع نحطها بعد 9000 على نفس الخط، فاحتجنا محور جديد عمودي (orthogonal) على الأولاني.
أي برنامج AI مابيشوفش كلب ولا صورة ولا كلام زينا: بيشوف أرقام بس. لما موبايلك يفتح بوجهك، هو بيحول وجهك لشوية أرقام ويقارنها بالأرقام اللي حافظها عنك. تحويل أي حاجة لأرقام هو أول خطوة في أي AI.
ولو حاجة في الصفحة دي لسه مش واضحة 100% دلوقتي، ده طبيعي جدا: كمل عادي. كل فكرة هنا هتتربط بحاجات أكبر وهتوضح أكتر مع كل محاضرة.
تخيل إنك قابلت كلب ووزنته: 3 كيلو. هنا الـ class (الفئة) هو الكلب، والوزن ده feature: قياس أخدناه منه. رقم واحد = نقطة على خط واحد (1D)، وده اسمه univariate.
لو قسنا كمان الطول يبقى عندنا two features (bivariate)، والكلب بقى نقطة في مستوى 2D. ولو زودنا السرعة يبقى 3D (multivariate). مهما زادت الـ dimensions، الكلب ده لسه sample واحد، والأرقام بتاعته مع بعض اسمها feature vector، والفراغ اللي عايش فيه اسمه feature space.
قسنا 3 كلاب وقطة. كل صف sample، وكل عمود feature، والعمود الأخير هو الـ true label (كلب = 1، قطة = 0):
| sample | weight (kg) | height (cm) | speed (km/h) | label |
|---|---|---|---|---|
| 1 | 3 | 30 | 12 | 1 |
| 2 | 9 | 42 | 25 | 1 |
| 3 | 6 | 38 | 20 | 1 |
| 4 | 4 | 24 | 15 | 0 |
الـ scalar رقم واحد (0D)، الـ vector صف أرقام (1D)، الـ matrix جدول (2D)، والـ tensor هو الاسم العام لأي عدد من الـ dimensions. مجرد اسم.
▶ شوفها في المحاضرة 1 عند 16:29 ▶ شوفها في المحاضرة 1 عند 26:23نوع الداتا بيحدد نوع البرنامج اللي هنستخدمه. الصور والكلام محتاجين نوع من الـ models (زي اللي في ChatGPT)، والجداول زي جداول البنوك محتاجة نوع تاني.
الداتا يا إما structured (جدول، كل عمود ليه اسم: وزن، طول)، يا إما unstructured زي الصور والصوت والفيديو: pixel واحدة لوحدها مش feature ليها اسم. والـ structured نوعين:
Numeric: إما discrete (عدد صحيح: 1، 2، 3) أو continuous (أي قيمة في مدى: السن، الإضاءة). Categorical: إما binary (اتنين بس)، أو ordinal (فيه ترتيب: الأول قبل التاني)، أو nominal (من غير ترتيب: قميص وبنطلون، مفيش حاجة فيهم قبل التانية).
ChatGPT بيحول كل كلمة لـ vector: قائمة طويلة من الأرقام. الكلمات اللي معناها قريب بيبقى ليها vectors قريبة من بعض. يعني الـ vector هو اللغة اللي الـ AI بيفكر بيها.
الـ vector سهم طالع من نقطة الأصل. نقدر نوصفه بطريقتين: Cartesian: قيمته على x وقيمته على y، زي (−3, 1). أو Polar: طوله (magnitude) والزاوية اللي بيعملها مع محور x (phase). الفيزيا بتحب الـ polar، لكن لما الـ dimensions تكتر الزوايا بتكتر وتتعقد، فإحنا في الـ machine learning بنشتغل بالـ Cartesian.
جوه ChatGPT وأي AI تاني، أبسط عملية بتتكرر مليارات المرات هي: اضرب كل رقم في رقم تاني. ده بالظبط ضرب الـ scalar في الـ vector.
لما تضرب رقم في vector بتضرب كل قيمة فيه: 2 × (1, 2) = (2, 4). الطول بيتغير، ولو الرقم سالب الاتجاه بيتقلب، لكن عمرك ما هتخرج بره الخط اللي ماشي عليه الـ vector. كل النتايج الممكنة مع بعض اسمها الـ span بتاع الـ vector ده.
العملية التانية اللي بتتكرر جوه أي AI هي الجمع. وفي حاجة لطيفة: لو أخدت vector كلمة "ملك" وطرحت منه "راجل" وجمعت "ست"، بتوصل لحاجة قريبة جدا من "ملكة".
الجمع قيمة بقيمة: (2, 1) + (2, 3) = (4, 4). وبالرسم: حط ديل التاني عند راس الأول (head to tail)، والنتيجة سهم من الأصل لآخر راس. الطرح هو إنك تقلب التاني وتجمع: A − B = A + (−B).
لما تكتب "بحر" في معرض الصور في موبايلك ويطلعلك صور البحر، أو YouTube يرشحلك فيديو شبه اللي اتفرجت عليه، البرنامج بيدور على أقرب vectors للي إنت عايزه. وده بالظبط اللي بنتعلم نقيسه هنا.
لو عندنا two samples، إزاي نقول هما شبه بعض قد إيه؟ أول أداة: الـ dot product: اضرب كل عنصر في اللي قصاده واجمع، والنتيجة رقم واحد:
المشكلة إنه بيتأثر بالأطوال والزاوية مع بعض. عشان كده عندنا cosine similarity: بنقسم على الطولين فيفضل الاتجاه بس، وقيمتها من −1 لـ 1. ولو المحورين عموديين (φ = 90°) الـ similarity صفر: زي محور x ومحور y، مفيش بينهم أي حاجة مشتركة.
والأداة التالتة: Euclidean distance: المسافة بين راسين الـ vectors بفيثاغورس.
Gmail بيقرر كل رسالة spam ولا لأ، والعربيات اللي بتسوق نفسها بتقرر الإشارة حمرا ولا خضرا. ده اسمه classification: إننا نحط كل حاجة في الفئة بتاعتها. وأبسط طريقة ليه خط بيفصل بين فئتين.
ارسم الكلاب والقطط بالوزن والطول. عايزين خط يفصلهم: اللي فوق الخط نقول عليه كلب، واللي تحته قطة. الخط ده اسمه decision boundary. الـ machine بتبدأ بخطوط وحشة وبتتعلم من غلطها لحد ما توصل لخط كويس. جرب إنت تبقى الـ machine:
لما Uber يقولك الرحلة هتاخد 23 دقيقة، أو موقع عقارات يقدر سعر شقة، ده توقع رقم مش فئة، واسمه regression.
فصل فيه طلبة: كل طالب ذاكر عدد ساعات (x) وجاب درجة (y). بنرسم خط يمشي وسط النقط، ولما يجي طالب جديد ذاكر 15 ساعة نقرا الدرجة من الخط. هنا بنتوقع رقم فده regression، مش classification.
الأسامي: الـ statistician يقول على x predictor والمهندس يقول input، والاتنين اسمهم برضه independent variable. و y اسمها response أو target أو dependent variable.
كل كلمة بيكتبها ChatGPT وراها مليارات عمليات ضرب وجمع، متنظمة على شكل ضرب مصفوفات. وعشان كده كروت الشاشة (GPUs) بقت أهم حاجة في الـ AI: لأنها بتعمل العملية دي بسرعة رهيبة.
ضرب مصفوفتين مش حاجة جديدة: هو dot products كتير. كل صف من الأولى × كل عمود من التانية = رقم واحد في النتيجة. عشان كده عدد أعمدة الأولى لازم يساوي عدد صفوف التانية. وأي AI model جواه ملايين من العمليات دي.
الـ AI بيتعلم يحرك الداتا ويمطها ويلفها لحد ما الحاجات المختلفة تبعد عن بعض ويبقى سهل يفرق بينها. والمصفوفة هي الأداة اللي بتعمل الحركة دي.
لما تضرب مصفوفة في vector بتحركه لمكان جديد. مثلا [[2, 0], [0, 1]] · (1, 0) = (2, 0): المصفوفة دي بتمط محور x للضعف. والـ determinant ad − bc هو المعامل اللي المساحة بتتضرب فيه: هنا 2، يعني المربع مساحته بقت الضعف.
والـ inverse هو اللي بيرجعك: زي 3 × 1/3 = 1، و A · A⁻¹ = I (الـ identity، المصفوفة اللي مابتغيرش حاجة). للـ 2×2: بدل a و d، اقلب إشارة b و c، واقسم على الـ determinant.
مش كل الأرقام اللي بنجمعها مفيدة: ساعات feature بتتحسب من features تانية، فمش بتضيف جديد وبتاخد مساحة على الفاضي. الـ rank بيقولك فيه كام معلومة جديدة فعلا. ونفس الفكرة بتساعد إننا نعدل models ضخمة بجزء صغير من الأرقام.
لو عندك feature C دايما بتساوي 2A + B، يبقى C linear combination من A و B، ومش بتضيف أي معلومة جديدة: لو عرفت A و B تعرف C من غير ما تقيسها. الـ rank هو عدد الـ features (الأعمدة) اللي مستقلة فعلا. ولو كل feature بتضيف حاجة جديدة نقول الـ matrix full rank. ولو features مرتبطة ببعض جامد (مش بالظبط) ده اسمه multicollinearity وهنشوفه بعدين.
| A | B | C = 2A + B | D |
|---|---|---|---|
| 1 | 0 | 2 | 5 |
| 2 | 1 | 5 | 1 |
| 0 | 3 | 3 | 2 |
| 4 | 1 | 9 | 7 |
model كبير ممكن يحتاج أكتر من 14 GB، ومش هيشتغل على موبايلك. لما نقلل الدقة بتاعة كل رقم (quantization)، الحجم بيقل لحوالي الربع، وده اللي بيخلي برامج AI تشتغل على موبايل أو laptop من غير إنترنت.
الكمبيوتر بيخزن كل رقم في عدد محدود من الـ bits، فأي قيمة continuous (زي 0.73519...) بتتقرب لأقرب قيمة يقدر يكتبها. كل bit زيادة بيضاعف عدد القيم اللي يقدر يكتبها، فالدقة تزيد، بس كل رقم ياخد مساحة أكبر في الذاكرة: زي ما تكون شايل سيف تقيل، أقوى بس أبطأ وأتقل.
والـ quantization إننا نقلل عدد الـ bits لكل رقم جوه الـ model (مثلا من 16 bit لـ 4 bits)، فالـ model يبقى أصغر وأسرع، وفي المقابل بنفقد شوية دقة. الشطارة إننا نقلل لحد ما الفرق في النتيجة مايبانش.