بسم الله الرحمن الرحيم احنا اليوم ان شاء الله بدنا
نكمل الموضوع اللي فتحناه قبل هيكه في المحاضرات
الماضية اللي هو ال artificial neural networks ال
supervised learning باستخدام ال artificial neural
networks كنا في المحاضرة الماضية حكينا عن اللي هو
ال Perceptron وشوفنا قالية العمل تبعتهو آلية
التعلم اللي هي مقصودة بالتعديل الأوزاني و بعدين
كمان ايضا اطلعنا على ال multi-layered networks ال
multi-layered networks اللي هي عبارة عن شبكة من ال
perceptrons الشبكة هذه مهيكلة على أساس layers و ال
layers كل layer فيها مجموعة من ال perceptrons
بتغذي المجموعة اللي بعدها أو ال layer اللي بعدها
وشوفنا آلية الآن التعلم في ال multilayer networks
صح آلية التعلم المفصولة بها مرة أخرى اللي هي آلية
تعديل الأوزان وشوفنا كيف بتختلف آلية تعديل الأوزان
في ال output يرعنها في ال hidden layer صح الآن
احنا بدنانلقي نظرة أخيرة على ال multilayer
networks بعدين بنحكي في جزئية صغيرة اللي هي ال
accelerating اللي هي النقطة هذه ماضح النقطة هذه
اللي هي accelerated learning المقصود بيها تسريع
عملية التعلم عملية التعلم احنا فاهمين انها بتحصل
على شكل ايش iterations iterations مظبوط وسمينا كل
مجموعة من ال iterations سمينها epo صحالـ Epoch هو
دفعة أو short من ال iterations عملية التسريع هو
تقليل عدد ال iterations بدل من أن ال network تأخذ
400 دورة 400 iterations قبل أن تستقر الأوزانلما
بنقول احنا بدنا نسرع لقليلة التعلم، معناه ذلك
الأربعمية هدولة بدنا نختصرهم أو بنجللهم إلى تلت
مية، إلى متين، إلى مية ربما، بدون أن ننطقش من دقة
التعلمهذه النقطة اللي هي المقصود بها اللي هو
accelerated learning او ممكن نقول accelerating ال
learning يعني تسريع التعلم في ال multi neural
networks بعد ما نخلص النقطة هذه ان شاء الله بنتطلع
على ال hub field network و ال BAM اللي هي
bidirectional associative memories هدولة نوعين من
ال artificial neural networksاللي بينطور تحت إطار
اللي هو supervised learning طيب، إيش قلنا بدنا
نبدأ في الأول بإيش؟ بإننا نلقي نظرة أخيرة على ال
multilayer neural networks اللي كنا حكينا فيها من
قبل بدنا نتقل على طريقة ال slide اللي فيها ال
example اللي تبع تتذكروا تبع إيش؟ تبع تدريب ال
network علىاللي هو ال XOR ال XOR gate او ال XOR
function ذاكرين
هذا المثال اما كنا بنحكي انه هاي ال neural network
في عندنا التلاتة nodes هدولة node رقم تلاتة و رقم
اربعة هدولة تابعين لأنهي layer ال hidden layer
مظبوط ال hidden layer صح و ال output layer ايش
فيهافيها node واحدة اللي هي node number five صح
لأن ال input بيدخل ب X1 و X2 على node number one و
node number two ملاحظين هدول ال two nodes شكلهم
مربع لتمييزهم عن من عن ال nodes الأخرى مميزين بإيش
إيش الفرق ما بينهم إن هدول ما بيعملوش أي
calculations مابعملوش أي computation صح مجرد اللي
بيدخل عليهم بتوزع علي مين علي بعدهم okay يبقى احنا
عمليا في المثال هذا يوم ما بدنا نيجي نحسب و نعد
الأوزان و نعد الأوزان بس تلاتة و أربعة و خمسة
مظبوط بنبدأ من مين من الخمسة في الأول بالظبط لإن
الخمسة هي اللي عندها desired outputو هي اللى بتقدر
تعرف ال error او تحسب ال error و بعدها بتطلع ال
error بتعدل أوزانها و بعدها بترحل ال error
gradient الى مين الى تلاتة و أربعة ال error
gradient اللى ذكره هو small delta بترحل الى تلاتة
و الى أربعة عشان كل واحدة منهم تلاتة و أربعة تحسب
ال error تبعها ال error gradient تبعها يعنيعشان
تعدّل أوزانها بناء عليه هذه الكلام هي total طبعا
هنا في ال slide هذه بيعقيلك ال initial values تبع
ال ايش الأوزان
ال threshold
that theta صح؟ مصبوط؟بعد ذلك هنا بيبدأ الحسبة أول
شيء بيحسب ال Y3 ال output اللي بدي يطلع من Y3
مظبوط بس احنا قلنا أول حاجة بدي تم تعديل الأوزان
فيها على Y5 طب ليش بدأنا في Y3 و Y4؟ لأن وصل ال Y5
بتعرف كيف تحسب ال output تبعها لازم يجيها input من
وين بتجيها ال input من Y3 و Y4 يبقى لازم أحسب Y3 و
Y4 ليش بدهم يطلعوا عشان نسلموا ل Y5 عشان Y5 تحسب
ال output تبعها تبعها دلوقت لإن شوف إيش فيه error
و اترحل تاني يعني احنا forward propagation
of data و backward propagation of error
information صح؟ okayهي الآن بعد ما طلعت ويتلت و ..
من حسب ويتلت و .. طبعا ويتلت ال activation
function استخدمت اللي هي ال sigmoid ال sigmoid
طبعا يوم ما يكون في عندك مثلة أو امتحان أو كده ال
formula هتبدو مواطية لك انت بس مجرد ايش بتاخد
الأرقام و بتطلع ال output ال output لأن ال sigmoid
بتطلع continuous values يعني ايش يعني أرقام عشرية
مش binary زي مين زي ال stepو ليش؟ بال pulse
function صح؟ okay فالان هذه ال continuous values
او ال real values او ال float values بتدخش على مين
على Y5 تنضرب في الأوزن تبعها و تتاخذ مع ال
threshold عشان تطلع ال output تبع Y5 من هنا الأن
نبدأ نشوف ليش ال error ال error اللي انا بنحسب هو
عبارة عن ببساطة ال difference ما بين ال desired ال
desired لما كانلما يكون عندي انا ال X واحد X واحد
انا بقشر هنا X واحد و X اتنين الاتنين ال input ال
value تبعهم one one one لازم ال X core function
تعطيني ايش
Y5 يفترض أن يكون Zero بس ماهو اللي بيطلع معنا هنا
في ال calculation هذا يفترض أن يكون Zero بس ماهو
اللي بيطلع معنا هنا في ال calculation هذا يفترض أن
يكون Zero بس ماهو اللي بيطلع معنا هنا في ال
calculation هذا يفترض أن يكون Zero بس
ماهو اللي بيطلع معنا هنا في ال calculation هذا
يفترض أن يكون Zero بس ماهو اللي بيطلع معنا هنا في
الـ small delta تبعه هاي الخمسة اللي هي ايش اسمها
ال error gradient شوف أنا وين بقشر هنا ال error
gradient اذا ذكروها هذا المصطلح ان هو ال small
deltaال aero gradient هذا لما بنحسب بعد هيكة على
أساسه تتعدى للأوزان الأوزان تبعون ال inputs اللي
داخلة على Y خمسة صح؟ من هم هدول الأوزان W تلاتة
خمسة و W أربعة خمسة ليش أسميهم هيكة لإن واحد منهم
جاي من تلاتة إلى خمسة والتاني جاي من أربعة إلى
خمسة او الاصح ان احنا نقول واحد منهم هو وزن ال
input اللي جايمن ثلاثة إلى خمسة والتاني هو وزن ال
input اللي جاي من أربعة إلى خمسة صح؟ طبعا فأول اشي
عشان نعدل الأوزن نحسب ال delta تبع الوزن مقدار
التغير بعدين بنضيف ذلك على ال current أو ال weight
الوزن الحالي عشان يطلع معانا وزن جديد نفس الاشي
بنعمل لمين؟الـ Theta ، الـ Threshold لاحظوا أن
عملي التعليل الأوزان ببساطة شديدة يعني الـ Delta
يبقى عبارة عن الـ Alpha اللي هو ال learning rate
مضروب في ال .. قيمة ال input اللي بيخش عبر هذا
الوزن مضروب في ال Delta small Delta اللي هي ال
Delta 5 فهي Delta 5 موجودة في التلت حسبات
طيب هذا الكلام ايش خلصنا ده هذا الكلام بس لحساب
الأوزان تبعد من ال input اللي داخلها على مين على
y5 لازم نعيد نفس الاشي لل inputs اللي داخلها على
y3 و y4 صح؟ okay هذا الكلام نفس القاليم بس طبعا
لازم في الأول كل واحدة من y3 و y5 تحسب ال error
gradient تبعها اللي هو ال small delta تبعتهاوبعدين
عليه small delta تدخل
في حساب الأوزان اللي رايح على تلاتة وبعدين small
delta تبعد أربعة تدخل في حساب الأوزان اللي رايح
على أربعة انا الآن بدل ما اني طبعا هنا بعد هيك
الأوزان اللي هو w واحد على تلاتة واحد على أربعة
اتنين على تلاتة اتنين على اربعة تلاتة على خمسة
تلاتة على اربعةOkay بدل أنا الآن نمر بهذا الحساب
خطوة خطوة لأ أنا بدي أجيب و أقولك الآن اعتبر انت
بدك تكمل المثال هذا ال iteration اللي بعت هذ ال
iteration الأولى ولا لأ لإن هذ ال iteration انبنت
على ال initial ال initialish values تبع الأوزان
مصبوط انت الآن خد هذاو خد ال input اللي بعده مين
ال input اللي بعده اذا كان ال input الأولاني كان
one one خد zero one x1 ب zero و x2 ب one و عيد
الكرة من جديد بالأوزان اللي هذه اللي نتجت من نهاية
ال iteration الأولى انت الآن بدك تحسب ال iteration
التانية بتقدر تعمل هذا الكلام ولا لا بتقدر اذا
أعطيناك homework ان شاء الله بتقدرلأ فخلاص هي الان
homework هي الان homework مطموعة منك أيش تسوي تعيد
الكلام ده كله لل iteration number two عشان تطلع
أيش في الآخر الأوزان يعني في الآخر بدك تطلع صفحة
زي هيك فيها أوزان جديدةاللي بدها تجف عندها اللي هو
ال iteration التاني في نهاية ال iteration التاني
ايش هتكون قيمة الأوزان الجديدة و ال thresholds
جديدة okay طيب هيك بنكون احنا القيل النظر الأخير
على عملية ال back propagation learning واضح ليش
اسمها back propagation لأن احنا بنحمل ال error
لوراعلى ال layers من ال outward على ال hidden ال
hidden طبعا ممكن تبقى layer واحدة او اكتر نين ممكن
two hidden layers ماشي
هاد الان احنا بدنا نحكي في ال acceleration كيف
يمكن تسريع التسريع ال learning هذا ال curve لو
لاحظت عليه ايش بيمثل علاقة ايش بايش هنا epoقول
iterations لأن ال book الواحد هي مجموعة iterations
فانا هنا من zero عشان خمسين مية مية خمسين ميتين
اقصد بيها ايش ميتين iterations مية خمسين
iterations كل ما بزيد عدد ال iterations يفترض ان
ال error ايش بيصير فيه بيجل بيتنقص احنا الآن ال
errorأحيانا ال network بتبقى ال output layer
تبعتها فيها ال node واحدة فهو error واحد مصبوط
أحيانا بيبقى ال layer الأخيرة بيبقى فيها عد تش
notes وبالتالي ال error في عندي error للأولى error
للتانية عدة errors مصموم فإحنا لو جينا ببساطة
شديدة ربعنا ال errors هذه وجمعنا مربعاتهم بيطلع
عني هنا some square error some square error يعني
مقصود بمجموع مربعات ال errors تابعة من تابعة
ال notesهناك أيضا تدخل في الحسبة هالي ال errors
تبع ال hidden layers ال hidden nodes برضه ممكن
نيجي نقول خلينا نجمع كل ال nodes اللي في ال
network سواء output nodes ولا hidden nodes و نجمع
ال errors تبعه منهم طبعا نعبيها في الأول و نجمع
بيطلع معايا some square errorsome square error هذا
يصلح أن يكون مؤشر على إيش على أداء الشبكة أداء ال
network هل تعلمت أو لا صح لأن كل ما عليه ال error
هذا معناته هي لسه لسه
بتخطط لسه بتخطط صح طب احنا في الأول ليش بنربّل
نعمل تربيع ال error ليش ما ناخده زي ما هو قولنا
هذا لأن بعض ال errors بتبقى بالموجب وبعض بالسالب
لو جمعناهم هم ممكن يصفروا بعضهم
مربعهم على انه مؤشر صح لكن لما نبقى ربع ال errors
الموجب والسالب بيصير موجب و لا لأ المربعات بيصير
موجب فنقدر ننظر اليش الي مجموع المربعات على انه
مؤشر على ايش مؤشر
على ايش مؤشر على التعلم جد جيشي تعلمتفهذا الخط
الأزرق أزرق بطالة أزرق أزرق لما بينزل هيكا معناته
إيش مع استمرار عملية التعلم جاعد إيش ال error بجل
صح مع استمرار تشغيل ال iterations ال error جاعد
بجل فإحنا الآن لما بقول accelerating معناته بدنا
ينزل للصفر الصفرهو بعدد ايش اقل من ال iterations
فبنتقل
الان الى هذا ال slide
هناOkay هي بداية اللي هو اللي حاكي عن ال
accelerated learning اعتبرها accelerating learning
يعني ان هو احنا نسرع عملية التعلم ففي عندنا عدة
techniques او عدة خطوات او إجراءات ممكن تنعمل
تغيير بسيطة تغييرات بسيطة على تصميم ال neural
network عساس انه تخلي عملية التعلم أسرع شوية واحدة
منها اللي هي انه ال outputيعني ال .. ال .. ال
sigmoid function اللي على .. اللي هي ال activation
function يعاد صياغتها بهذا الصينةبهذا السبب اللي
هو انه احنا يكون في عندي two constants a و b ال
two constants a و b هدولة ينحسب ال ال y اللي هو ال
output تبع ال perceptron او النود الواحدة بهذه
القلية بدل ما بهذه ال equation بدل ال equation
الأساسية هذه ال equation هي عبارة عن ال equation
تمثل sigmoid functionمش إش جديد بس صياغة أخرى
إليها الصياغة هذه بتساعد على تسريع اختصار وجد يعني
تغيير الأوزان بكميات أكبر وصولا إلي إيشوصولا الى
اوزان بتعطي error اقل فهذه الطريقة الأولى اللي هي
استخدام ال hyperbolic tangent function او صيغة ال
hyperbolic tangent تبع ال sigmoid function بدل ال
direct sigmoid هذا الكلام مش هوصفه ليش لأنه بده
mathematical foundation حل ال mathematical
foundation ل .. ل .. ليش؟
لـ course يكون في الجزء النظري أكتر فإحنا الآن
بدنا ننتقل على هذا هو الطريقة الأولى هذا الطريقة
الأولى لتسريع عملية التعلم طريقة تانية اللي هو
إحنا نستخدم حاجة اسمها momentum term اتطلع على
المعادلة هذه اتطلع على الشق هذا هل الشق هذا شفناه
قبل هيك أول شيء ايش اللي على اليسار اللي يساوي
اللي هو ال delta W اللي هو إيشفرق الوزن بالعادة
احنا بنعرف ان فرق الوزن هو في المحصلة هيك بس مجرد
ال alpha مضروبة في ال input مضروبة في small delta
للأ اذكركم في هذا الكلام هيتوا ارجع هنا ورا شوية
ارجع هنا ورا شوية هيتوا هي delta صح عبارة عن ايش
alpha مضروبة في XX اللي هي ال inputمضروف ليس في
دلتا دلتا اللي هي error gradient تبع ال node نفسها
اللي نحسب لها تلاتة او زمن الداخلة عليها من واحد و
من اتنين مبدئيا للي مش حافظ تعديل الوزن delta w هي
عبارة عن ببساطة learning rate
مضروب في ال input اللى داخل على ال node من هذا
الوزن مضروب في ال gradient طيب ايش الاستجاد
الاستجاد هذا ال band هذا او هذا ال term هذا ال
term اللى هو ال momentum term momentum يعني الدفع
بيعطي الدفع لعملية التعلمة هو ببساطة شديدة عبارة
عن beta هي عبارة عن constant صغير ما بين ال zero
والواحد مضروب في ايشمضروف في ايش؟ في الـ delta
point يعني بدنا الآن ال network تتذكر ال delta
السابق احنا نحسب ال delta تبع P و بنقول انه بدنا
ال delta تبع P نقص واحد يعني ايش؟ ال delta السابق
مش الوزن السابق مش W لأ delta W بدنا ناخده هذا
نحتفظ فيه للدورة اللاحقة عشان نضربه في مين في ال
beta هذا الكلام بشكل دفع لمين لعملية التعلم وهذا
ال beta قيمة تتراوح من zero لواحد عادة تبتد قريبة
من الواحد قريبة من الواحد يعني 0.95 مثلا فهذا اللي
هو الآن
two methods او two measures او two steps او two
techniques ليش for accelerating أول
واحد ايش كانت؟
الثاني استخدام ايش
momentum constant term لأ ال constant هو جزء من ال
term هذا هو كله عبارة عن ال momentum term تتكوّل
من حاجتين مضروبات في بعض اللي هم ال momentum
constant اللي هي beta مضربة في ال W تبعت ال
iteration السابقهذا ال term بينجمع على ال term
الأصلي تبع تعديل الأوزان اللي هو ال alpha مضروبة
في ال input مضروبة في ال error gradient error
gradient اللي هي small delta تمام؟
إيش
غير إيك؟ هدولا طريقتين اللي قاله إيشأو أسلوبين لـ
Accelerating Learning غير هيكة هذا المثال نفس
المثال اللي قبل هيكة بوريها كيف ال
learning rate هنا ثابت ماتغيرش ثابت و ال error
بينزل ال error بينزلصار بدل ما أخدت بدل
ما تاخد 200 iteration عشان يقترب ال error من ال
zero أخدت جداش 126
epo او iteration مش مشكلة المهم القصد أنه انضغط
الأمر من 200 إلى 126هذا باستخدام ال momentum term
لما أضيف ال momentum term على تصميم formula تعديل
الوزن صار اختزل او جل الوجد الى 126 ابوك بدل 200
ابوك الآن اضافة إلى هذول ال two techniques رقم
تلاتة اللى هو ال heuristics
plastics هذو لا فيها any tools rule بتقول إنه إذا
كان أنا قاعد باجمع اللي هو إيش ال sum of square
errors إيش هو ال sum of square errors بتذكرها لو
لسه كنا نحكي اللي هو بجمع ال errors تبعد كل ال
nodes و بربعها أولا بخدها بربعها بعدين بجمع
مربعاتها إذا من epo ل epo ال sum of square errors
هذاsome of square errors باستمرار
ال some هذا من
واحد للي بعده اما في ازدياد يعني في الاول كان ال
some نقول مثلا تلاتة بعدين صار اربع بعدين صار خمسة
بعدين ستة
بيزيد او الاكس انه في النزول يعني ال sum تبع هذا
ال epoch اقل من اللي جابله و اللي بعد اقل و اللي
بعد اقل جاء بتنقص هذا الكلام مش معناته معناته لما
انا بقى اخد الفرق من تلاتة نقص اربعة بيطلع نقص
واحد اربعة نقص خمسة بيطلع نقص واحددائما .. دائما
.. دائما الفرق .. دائما الفرق اشارته بالسلب وهنا
نفس الاشي برضه سواء كان هو صعودا او هبوطا لما انا
اجي اقول مثلا هذه عشرة و لبعدها تسعة و لبعدها
تمانية عشر اناقص تسعة واحد تسعة اناقص تمانية واحد
فالفرق دائما اشارته موجبة هنا دائما اشارته السلبة
إذا دايما هيك .. إذا دايما .. إذا ال change of the
sum of square .. change .. ال change .. التغير
يعني هنا من عشر إلى تسعة و تسعة إذا دايما هذا ال
change .. كيف أنا بحسب ال change؟ باخد الفرق إذا
دايما هذا الفرق بحافظ على نفس ال signنفس الإشارة
اما دايما موجبة او دايما سالبة يبقى انا في عندي
اضطراد انا في عندي حاجة اسمها ال .. ال .. ال .. ال
.. ال .. ال .. ال .. ال .. ال .. ال .. ال .. ال ..
ال .. ال .. ال .. ال .. ال .. ال .. ال .. ال .. ال
.. ال .. ال .. ال .. ال .. ال .. ال .. ال .. ال ..
ال .. ال .. ال .. ال .. ال .. ال .. ال .. ال .. ال
.. ال .. ال .. ال .. ال .. ال .. ال .. ال .. ال ..
ال .. ال .. ال .. ال .. ال .. ال .. ال .. ال .. ال
.. ال .. ال .. ال .. ال .. ال .. ال .. ال .. ال ..
ال .. ال .. ال .. ال .. ال .. ال .. ال ..
ال .. ال .. ال .. ال .. ال .. ال .. ال .. ال .. ال
.. ال .. ال .. ال .. ال .. ال .. ال .. ال ..
ال ..
ال .. الفي ال square في sum of square errors يبقى
أنا المفروض أسرع أزيد ال alpha فإذا كان اختصر هذا
ال linguistic كالتالي إذا كانت ال sign of sum of
square errors ولا حد الاختصار
و بعدها كلمة stable ايش هان stable؟ يعني مافيش
فيها تذبذب مش مرة زائد و مرة ناقص يعني مش انه مرة
تلاقي هيك هنا الفرق هذا ناقص هذا سالب سالب بعد هيك
الفرق صار موجب مظبوط؟ هنا مافيش فرق هنا صار سالب
سالب سالب هنا موجب هذا تذبذب في ايش؟ في ال sign
إذا كان ال sign is stable فإيش بسوي increase alpha
ألفة اللي هي learning rate وشوفتها في واحدة من
الأمثلة كانت 0.1 increase يعني بخليها 0.2 مثلا
بخليها 0.3 او بقيت و بقول بدي اضربها دايما بيزيدها
ب 5% يعني 0.1 بدي أثير 0.105 يعني بخلي بمخصر أن
ألفة تساوي ألفة ضرب واحد هذا معناته بيزيدها ب 5%
ممكن أقول لأ ده زي ده 15% ممكن أقول ده زي ده 25%
المهم أنا بقى أثبت ليه نسبة زيادة امتى بتزيد امتى
بقى طابت ده الكلام لما قاللي انه ال sign ثابت
العكس من ذلك إذا ال algebraic sign of ال change ال
change اللي هو يعني مقصود يتغير في ال alternates
session alternates يتذبذب مرة أخر مرة موجة مرة
سالباللي هو معناه ذلك .. معناه ذلك في عندي ال ..
ال network مرة بتقترب .. مرة بتقترب و بجل ال error
و مرة بتبعد فجيها غيرت الأوزان بشكل كبير صار يطلع
معاها error و بعدين كانت مقتربة، بس إيش؟التغيير
اللي حصل كان تغيير كبير في الأوزان خلها تفشج عن ..
زي ما هم بيقولها تخطي الصواب و صارت الاش تبعد و
بعدين صارت تترد تاني بس لما ردت مارجعتش على الصواب
فشجت عنه ب .. فصار .. فإيش فيه مشكلة؟ المشكلة أنها
بتخطي خطوات واسعة فانا بضيق الخطوات هذه كيف بضيق
الخطوات؟ بنزل الاش ال alpha ال learning rate فإذا
كان ال signخلاص فأقول S إذا هي مش stable sign
of SSE alternates
معناه
ذلك decrease الألف
decrease الألف برضه يكون عندي كمانبتقدر تتخيل يعني
هنا هو مثلا ال decrease
بأنه بضربها ب 70% ب 7 من 10 يعني بنزلها 30% تمام و
ال increase بضربها في 1 و 5 من 100 واضح تمام فهنا
بوريلك كيف انه هايالـ Epochs ماشية و في ده ال دي
ال learning rate قاعد بتساعد نتيجة تطبيق إيش؟ هذي
تمام؟ قاعد بيحسب لجأ أنه ال error ال software
errors قاعد في النازل صح في النازل يعني إشارته
دايما موجبة مظبوط؟ بقى أطرح السابق و بقى أطرح منه
اللاحق و طلعت موجب فهو بسبب أنه هذا موجبالتغير
موجب اه التغير موجب فهو عمار بيرفع في ليش في اللي
عند حد معين جلب
ال ال
alphaبدأت تنزل و نزولها لأن وضعها في 0.7 النزول
أسرع أو أحد من الصعود صعود تدريج بسيط 5% كل مرة
انما هنا 30% كل مرة فبدأت تنزل نزلة جامدة مين هي
اللي هو ال learning rate نزل نزل جامدة مع النزلة
هذه بدأ يقترب من ايش من بوريلك فعلية هذا الأسلوب
في الاقتراب من
من ال error المخفض بوقت أقل 100 epoch بدلا من 126
epoch هذا
الأن استخدم ال momentum مع برضه هذه الهيروستيك
اقبال adaptive ايش يعني adaptive يعني لما نقول
adapter ايش يعني adapter يعني محولadaptive يعني
أنه يتحول ويغير من تلقاء نفسه ماهو اللي بتغير من
تلقاء نفسه ال learning rate لوحده بناء على
استشعاره لل sign تبعت من ال sum of square arrows
هو نفسه من تلقاء نفسها ال network بتغير في ال
learning rate تبعها عشان ذلك اسم هذا الكلام
adaptive learning فلما اندمج ال two techniques ال
adaptive learning مع علمmomentum صار عندي اختصار
لسه اكتر صرنا بنصل الى
ال zero
تقريبا error ومعناه مش zero هذا الكلام واحد اص نقص
اشهر اص نقص ثلاث يعني واحد من الألف يعني مش zero
مابدناش بالظبط 00 يعني ممكن تبقى صعب جدا انه ال
network تصل لل zero لكن ممكن نقبل بأنها تصل لواحد
من الف error ال error يصل لواحد من الف صح طيب ماشي
الحال okay الان هنا الكلام بيوصلنا لنهاية اللي
حاكي عن ال back propagation networks ولكن لأسف
ماقلش معنى وقت نبدأ في ال hub field ال hub field
networkو ال BAM فبناخدهم في المحاضرة الجاية ان شاء
الله تمام؟ يبقى احنا الآن عمليا باختصار المحاضرة
اليوم كانت تكملة ل ال back propagation networks
اللي هو واحد من أنواع ال unsupervised artificial
neural networks المحاضرة الجاية ان شاء الله بنكمل
النوعين التانيات اللي هو ال hot field و ال BAM
اللي هو في واقع الأمر نوع واحد بس منه نسختينو إذا
ضال معانا وجد نبدأ في ليش؟ في ال super .. في ال
unsupervised .. في ال unsupervised artificial
neural networks