abdullah's picture
Add files using upload-large-folder tool
25b5648 verified
1
00:00:05,080 --> 00:00:07,260
بسم الله والحمد لله والصلاة والسلام على رسول الله
2
00:00:07,260 --> 00:00:10,540
اليوم ان شاء الله تعالى هنكمل في موضوع ال data
3
00:00:10,540 --> 00:00:13,800
cleaning كنا المحاضرة الماضية اللي اشتغلنا في
4
00:00:13,800 --> 00:00:19,820
موضوع ال missing لل data و اليوم ان شاء الله تعالى
5
00:00:19,820 --> 00:00:25,720
هنشتغل في موضوع ال noisy data الان في ال noisy
6
00:00:25,720 --> 00:00:29,060
data قلنا احنا ال noise data مفهومها ان انا في
7
00:00:29,060 --> 00:00:33,890
عندى خطأ لسببerror معين الـ error ده ممكن يكون
8
00:00:33,890 --> 00:00:37,950
الناتج عنه من human entry أو فيه fault في ال
9
00:00:37,950 --> 00:00:41,190
instrument اللي أنا جمعت من خلالها ال data وقولنا
10
00:00:41,190 --> 00:00:44,430
من أشهر الأمثلة اللي أنا بتكلم عليها على ال noise
11
00:00:44,430 --> 00:00:50,130
data الراتب يكون بالسالب بغض النظر عن كانت إيش
12
00:00:50,130 --> 00:00:53,890
الأخطاء إيش الشغلات اللي أنا فعليا محتاجها عشان
13
00:00:55,040 --> 00:00:59,320
أعرض أو أتعامل مع ال data set اللي موجودة عندنا
14
00:00:59,320 --> 00:01:01,900
كيف بدي أعمل لها handling من أشهر الطرق اللي
15
00:01:01,900 --> 00:01:05,680
موجودة عندنا موضوع ال pinning وما المقصود في ال
16
00:01:05,680 --> 00:01:10,520
pinning أنه أنا فعليا بدي أروح أجسم ال data set
17
00:01:10,520 --> 00:01:17,850
تبعتي لمجموعات وكل مجموعة هتمثل سيبني يا عمركل
18
00:01:17,850 --> 00:01:21,870
مجموعة هتتمثل بقيمة معينة القيمة دي ممكن تكون ال
19
00:01:21,870 --> 00:01:25,050
main ممكن تكون ال median او ممكن تكون بقيمتين عشان
20
00:01:25,050 --> 00:01:28,150
امثل المجموعة لو اعتمدت على ال boundaries لكن في
21
00:01:28,150 --> 00:01:32,630
شغل مهم جدا مع ال binning اللي هي الموضوع انه انا
22
00:01:32,630 --> 00:01:35,810
فعليا ال partition تبع ال bin ال partition تبعتي
23
00:01:35,810 --> 00:01:39,770
هاي او ال bin جداش حجمها بدو يكون هل هتكلم على
24
00:01:39,770 --> 00:01:44,980
equal frequencyيعني فعلياً كل ال bins هيكونوا نفس
25
00:01:44,980 --> 00:01:50,480
العدد ولا هتكلم على ال equal depth باجب ال equal
26
00:01:50,480 --> 00:01:54,120
depth انا باجب فكرتها انه انا اجسم المجموعات تبع
27
00:01:54,120 --> 00:01:57,800
ال intervals اجي اقول من عشرة مثلا من واحد لعشرة
28
00:01:57,800 --> 00:02:02,860
ال interval الأولى من عشرة عفوا من 11 لعشرين ال
29
00:02:02,860 --> 00:02:06,260
interval التانية من واحد وعشرين لتلاتين ال
30
00:02:06,260 --> 00:02:10,360
interval التالتةبغض النظر عن الأعداد اللي بدها
31
00:02:10,360 --> 00:02:14,160
تكون في كل interval هذي بتسميها احنا ايش؟ equal
32
00:02:14,160 --> 00:02:18,060
depth بينها بقى ال equal frequency ان كل partition
33
00:02:18,060 --> 00:02:23,760
في نفس العدد من ال elements لكن عشان فعليا اطبق
34
00:02:23,760 --> 00:02:29,740
انا ال pinning لازم في البداية اعمل sort لل data
35
00:02:29,740 --> 00:02:36,350
لو ماعملتش sort كل شغلك غلط على الفاضيلكن في موضوع
36
00:02:36,350 --> 00:02:40,370
الـ Equal Depth ممكن انا اشتغل اذا انا فاهم ال
37
00:02:40,370 --> 00:02:44,830
minimum و ال maximum تبعوني قداش بقدر اعمل استخدام
38
00:02:44,830 --> 00:02:48,210
و عارف ايش ال range اللي ممكن تخدمني ال intervals
39
00:02:48,210 --> 00:02:50,430
ممكن اشتغل لانه في الآخر بدي أصبح ال
40
00:02:50,430 --> 00:02:53,410
representation لكل رقم بال interval اللي موجودة
41
00:02:53,410 --> 00:02:57,890
عندها تعالوا نشوفمع بعض ال binning الان العملية
42
00:02:57,890 --> 00:02:59,370
التانية اللى هتكلم عليها ال regression و ال
43
00:02:59,370 --> 00:03:02,030
clustering بعدين كنا احنا بدنا مع ال binning و
44
00:03:02,030 --> 00:03:05,570
الرقم واحد كنا بدنا نعمل sort و بالمثال هذا هشتغل
45
00:03:05,570 --> 00:03:09,510
على equal frequency equal frequency قاللي انا الان
46
00:03:09,510 --> 00:03:10,990
بدي اشتغل على three bins
47
00:03:19,150 --> 00:03:22,830
الان يا جماعة الخير لو كان في عندي plus او minus
48
00:03:22,830 --> 00:03:26,890
one في ال interval يعني لو كانت ال interval تبعتي
49
00:03:26,890 --> 00:03:34,150
هذه 13 رقم 27 مش big deal او مش مشكلة ان الرقم
50
00:03:34,150 --> 00:03:38,300
الأخير هذا ينضاف على ال penالاخيرة طيب لو كان في
51
00:03:38,300 --> 00:03:43,000
عندي تلت أرقام مخص بن مخص رقم واحد ماعندي مشكلة
52
00:03:43,000 --> 00:03:47,360
تكون البن الأخيرة بأقل من digit خصوصا لما احنا
53
00:03:47,360 --> 00:03:50,720
بنتكلم انا بدي اعمل handling ل attribute ال
54
00:03:50,720 --> 00:03:53,740
attribute مش اتناشر value اللي فيه تلتاشر ممكن
55
00:03:53,740 --> 00:03:57,100
يكون فيه تلتاشر الف value فلما فعليا اجي اقول
56
00:03:57,100 --> 00:04:01,980
والله بدي خصه عندي مائة قيمةمن الف مش قضية لسه ما
57
00:04:01,980 --> 00:04:06,200
زال عندي فيه 900 قيمة موجودات وبقالهم وزلهم
58
00:04:06,200 --> 00:04:10,160
وبأثروا بشكل كويس فالخطوة رقم واحد بعد ما انا اعمل
59
00:04:10,160 --> 00:04:15,140
sort اجسم المجموعات اعملت sort بدي equal frequency
60
00:04:15,140 --> 00:04:23,160
اربعة هاي واحدة تنتين تلاتة الخطوة رقم واحدSort
61
00:04:23,160 --> 00:04:25,860
الخطوة الرقم اتنين تجسيمهم او ال partitioning
62
00:04:25,860 --> 00:04:32,120
تبعتهم لمجموعات الآن بعد هيك القيام هذه مين فيها
63
00:04:32,120 --> 00:04:36,700
ال noise انا فعليا مش عارف هل هي الأربعة هي ال
64
00:04:36,700 --> 00:04:39,680
noise ولا الأربعة و تلاتين هي ال noise انا فعليا
65
00:04:39,680 --> 00:04:43,580
مش عارفها لكن هذه الأربعة او الأربعة و تلاتين انا
66
00:04:43,580 --> 00:04:49,120
فعليا هخلص منها من خلال استبدالها بإيش مع كل بن
67
00:04:49,120 --> 00:04:53,360
الآن ممكن استبدلها بالقيامة ال meanأو الـ Median
68
00:04:53,360 --> 00:04:58,920
أو الـ Value .. ال .. عفوا القيم ال boundaries لو
69
00:04:58,920 --> 00:05:03,160
أنا بدأ اعتمد على ال meme هضطر اجمع تمانية زائد
70
00:05:03,160 --> 00:05:06,140
اربعة .. اربعة زائد تمانية زائد تسعة زائد خمستاشع
71
00:05:06,140 --> 00:05:10,640
على اربعة واروح استبدلهم قلعت تسعة بتالي المجموعة
72
00:05:10,640 --> 00:05:15,640
الاولى كل element فيها بده يصير تسعة كل element
73
00:05:15,640 --> 00:05:18,900
فيها بده يصير تسعة المجموعة التانية المتوسطة
74
00:05:18,900 --> 00:05:22,670
الحسابة تبعها كانت تلاتة وعشرين ومن ثم ال ..و
75
00:05:22,670 --> 00:05:26,050
هتكون تلاتة و عشرين والاخيرة تسعة و عشرين و هكذا
76
00:05:26,050 --> 00:05:31,470
لو انا بدي اشتغل على ال boundaries مفهوم ال
77
00:05:31,470 --> 00:05:36,270
boundaries هيهم الأربعة والخمستاش هدولة لل بن
78
00:05:36,270 --> 00:05:41,130
الأول او لل partition الأول الآن الأربعة والخمستاش
79
00:05:41,130 --> 00:05:44,550
هدولة هتكون ثابتات لاحظ في ال main و ال median انا
80
00:05:44,550 --> 00:05:48,010
كل ال partitionالـ values تبعت ال partition
81
00:05:48,010 --> 00:05:51,970
بستبدلها بقيمة واحدة، مظبوط؟ اللي كانت بال mean أو
82
00:05:51,970 --> 00:05:56,190
ال median التسعة استبدلت كل القيم لكن مع ال part
83
00:05:56,190 --> 00:05:59,570
.. مع ال boundaries point بصير .. بتكلم على لأ ال
84
00:05:59,570 --> 00:06:04,830
partition الواحد في قيمتين ال minimum و ال maximum
85
00:06:04,830 --> 00:06:10,090
الآن باجي بدور على القيم اللي في النص تمانية أقرب
86
00:06:10,090 --> 00:06:14,240
لأي boundaryوبعملها replacement لل boundary الأقرب
87
00:06:14,240 --> 00:06:21,660
8 أقرب لل 4 أكيد ومن ثم replace 4 9 لل 4 لأن الفرق
88
00:06:21,660 --> 00:06:26,380
بينها و بين 4 و 5 و 15 و 6 فهي أقرب لل 4 وبالتالي
89
00:06:26,380 --> 00:06:31,380
بعملها replacement بال 4 الان نفس ال 21 و 21 و 24
90
00:06:31,380 --> 00:06:36,120
يصير 25 هنا أقرب و هكذا تمام؟ هذا مفهوم ال
91
00:06:36,120 --> 00:06:40,200
boundaries لكن تعالى نشوف مثالنبدأ فيه من البداية
92
00:06:40,200 --> 00:06:44,240
خالص هنشتغل فيه كتالي حاجة أقول أنا في عندي مثلا
93
00:06:44,240 --> 00:06:58,400
القيم بسيطة سبعة تلاتة تمانية سالب واحد اتنين خمسة
94
00:06:58,400 --> 00:07:09,880
عشرة تسعة ستة اربعة اتناشروهي كمان مرة تلاتة مش
95
00:07:09,880 --> 00:07:14,420
هتفرج معايا الان
96
00:07:14,420 --> 00:07:19,160
انا بدي اشتغل او بدي اعمل partition او بدي استخدم
97
00:07:19,160 --> 00:07:23,460
two partitions الخطوة
98
00:07:23,460 --> 00:07:26,200
رقم واحد طبعا كمان مرة بيتكلم عن ال equal
99
00:07:26,200 --> 00:07:31,700
frequency equal frequency هشتغل الان اول خطوة رقم
100
00:07:31,700 --> 00:07:44,830
واحد sort هي سالب واحدتنين تلاتة كمان تلاتة عندي
101
00:07:44,830 --> 00:07:57,970
أربعة خمسة ستة سبعة تمانية تسعة عشرة معاشر هيك ال
102
00:07:57,970 --> 00:08:01,990
data صارت sortedأنا بتكلم على equal frequency
103
00:08:01,990 --> 00:08:04,210
equal frequency على two partitions يعني أنا بدي
104
00:08:04,210 --> 00:08:12,630
أعدهم من النص 1,2,3,4,5,6,7,8,9,10,11,12,6 مافي
105
00:08:12,630 --> 00:08:17,290
عندي مشكلة 1,2,3,4,5,6 هي ال partition أو البن
106
00:08:17,290 --> 00:08:25,930
الأول وهي البن الثاني الآن بال mean لو أنا بدي
107
00:08:25,930 --> 00:08:30,610
أشتغل بال mean بدي .. مافيش عندي مشكلة بدي أجمعبدي
108
00:08:30,610 --> 00:08:34,850
أجمع العناصر و أجسمهم على عددهم على 6، مصبوط؟ بقى
109
00:08:34,850 --> 00:08:38,930
بالـ Median القيمة اللي بتيجي في النص بما أن
110
00:08:38,930 --> 00:08:42,570
الأعداد اللي عندي هان أعداد عدد العناصر أو عدد
111
00:08:42,570 --> 00:08:46,770
البن زوجي مافيش قيمة في النص، فهجيب الـ Average
112
00:08:46,770 --> 00:08:51,410
تبعت القيمتين اللي في النص تلاتة و تلاتة، بقى أنا
113
00:08:51,410 --> 00:08:55,490
هتكلم بالـ Median تلاتة
114
00:08:55,490 --> 00:09:00,830
و تلاتة ستة على اتنين، تلاتةمعناته الآن كل البن
115
00:09:00,830 --> 00:09:05,450
هذه بدون يعملها replacement بمين؟ بالتلاتة ..
116
00:09:05,450 --> 00:09:07,710
تلاتة .. تلاتة .. تلاتة .. تلاتة .. تلاتة .. تلاتة
117
00:09:07,710 --> 00:09:07,950
.. تلاتة .. تلاتة .. تلاتة .. تلاتة .. تلاتة ..
118
00:09:07,950 --> 00:09:08,030
تلاتة .. تلاتة .. تلاتة .. تلاتة .. تلاتة .. تلاتة
119
00:09:08,030 --> 00:09:08,990
.. تلاتة .. تلاتة .. تلاتة .. تلاتة .. تلاتة ..
120
00:09:08,990 --> 00:09:10,670
تلاتة .. تلاتة .. تلاتة .. تلاتة .. تلاتة .. تلاتة
121
00:09:10,670 --> 00:09:11,390
.. تلاتة .. تلاتة .. تلاتة .. تلاتة .. تلاتة ..
122
00:09:11,390 --> 00:09:19,130
تلاتة .. تلاتة .. تلاتة .. تلاتة ..
123
00:09:19,130 --> 00:09:25,690
تلاتة .. تلاتة .. تل
124
00:09:26,510 --> 00:09:30,190
أقول لك شغلاء حتى لو كانت لو كانت ال value تبعتي
125
00:09:30,190 --> 00:09:36,070
هذه مش اتناش بدي أخليها واحد وعشرين عشان يكون في
126
00:09:36,070 --> 00:09:42,950
عندي out layer حقيقي وانا بدي ايش اخلص منه الان
127
00:09:42,950 --> 00:09:46,790
مين عند ال error او ال error واضح وين يا شباب واضح
128
00:09:46,790 --> 00:09:51,710
عندى في السالب لأن القيم كلهم موجبة كل القيم موجبة
129
00:09:51,710 --> 00:09:56,070
باستثناء السالب واحدوكلها أقاينها حوالين العشرة
130
00:09:56,070 --> 00:10:01,770
باستثناء ال 21 هاي ليش أنا جيبت المثال ده بالتحديد
131
00:10:01,770 --> 00:10:05,190
عشان أقولك انتبه مش كل الخيارات ممكن تكون مناسبة
132
00:10:05,190 --> 00:10:10,310
لك الآن بال mean وال median أنا خلصت وانحلت التمام
133
00:10:10,310 --> 00:10:14,070
وراحت ال error زالت لكن لو أنا بدأ أشغل بال
134
00:10:14,070 --> 00:10:17,190
boundary point بدأ أشغل على ال boundaries
135
00:10:26,090 --> 00:10:29,110
حيظلوا موجودات في وجهي حيظلوا موجودات في ال data
136
00:10:29,110 --> 00:10:33,450
set على الرغم إن هما ال outliers اللي أنا كنت عمال
137
00:10:33,450 --> 00:10:37,250
بحاول أخلص منه أو بين جثين ال noise data اللي كنت
138
00:10:37,250 --> 00:10:42,510
بحاول أخلص منها، مصبوط؟ فانت بدأت تنتبه، تنتبه إنه
139
00:10:42,510 --> 00:10:47,130
أنا مش كل واحدة تسبق معايا، الآن اللي حيصير كتالي
140
00:10:47,130 --> 00:10:52,230
سلب واحد، سلب اتنين أقرب لسلب واحد ولا للخمسة؟لأ
141
00:10:52,230 --> 00:10:56,470
سالب واحد معناته هي سالب واحد سالب واحد التلاتة
142
00:10:56,470 --> 00:11:03,870
لسالب واحد ولا خمسة لأ خمسة خمسة خمسة خمسة هان ستة
143
00:11:03,870 --> 00:11:12,450
هان ستة ستة ستة ستة ستة ستة واحد وعشرين لاحظ ال
144
00:11:12,450 --> 00:11:14,910
out layer بدل ما اخلص منها او ال noise ده بدل ما
145
00:11:14,910 --> 00:11:19,960
اخلص منها عززتها كمان واحدةفانت بقتنطبه مش دائما
146
00:11:19,960 --> 00:11:25,020
الخيارات هذه بتكوناش perfect بالنسبة لي فانت بتشوف
147
00:11:25,020 --> 00:11:29,380
الخيار الأمثل في التعامل تمام وبالتالي خلصنا من
148
00:11:29,380 --> 00:11:32,480
الموضوع ال binning طبعا ال binning زي ما انت شايف
149
00:11:32,480 --> 00:11:36,360
موضوع بسيط سهل ممكن انا اسيطر عليه بشوية انتباه
150
00:11:36,360 --> 00:11:41,480
وتركيز في التعامل الطريقة التانية ان اتخلص من ال
151
00:11:41,480 --> 00:11:45,040
noise data ان انا اعمل regression شو يعني
152
00:11:45,040 --> 00:11:50,520
regression؟هي عبارة عن الـ predictive task مصبوط
153
00:11:50,520 --> 00:11:55,340
بحيث أن أصل على formula أو model يقدر يتنبأ بالقيم
154
00:11:55,340 --> 00:11:59,720
زي ما بقول محمد by value الآن لو أنا أجيت و قلتلك
155
00:11:59,720 --> 00:12:05,860
النقاط هذه المرسومة قدامي هي بتمثل ال data set
156
00:12:05,860 --> 00:12:11,260
تبعتي لاحظ النقاط كلها جاية تمام حوالين الخط هذا
157
00:12:11,260 --> 00:12:19,800
باستثناء النقطة اللي جاية هنابصبت؟ ليش جايها؟ لأن
158
00:12:19,800 --> 00:12:23,520
فيها noise القيمة تبعتها فيها outlier أو فيها
159
00:12:23,520 --> 00:12:28,520
noise معينة فخلتها بعيدة واحدة من الطرق تبعت ال
160
00:12:28,520 --> 00:12:32,140
noise handling أو noise data handling ان انا اعمل
161
00:12:32,140 --> 00:12:35,000
estimation او اعمل prediction لل regression
162
00:12:35,000 --> 00:12:41,300
function او ال line model تبعتي ال line function
163
00:12:41,300 --> 00:12:45,200
تبعتي بحيث ان انا ارسم الخط مستقيم اللي بيمثل كل
164
00:12:45,200 --> 00:12:51,010
ال dataأرسم خط مستقيم يمثّل كل ال data والخط
165
00:12:51,010 --> 00:12:56,230
المستقيم هذا له معادلة الآن بناء على قيمة X اللي
166
00:12:56,230 --> 00:13:01,190
عندي هان اللي هي ثابتة بقدر أعمل estimation لمين
167
00:13:01,190 --> 00:13:06,250
لقيمة Y الصحيحة هل هذا أنا بدي أطبقه على كل ال
168
00:13:06,250 --> 00:13:16,160
data لأ فقط على ال noise data noisy pointوبالتالي
169
00:13:16,160 --> 00:13:20,580
هذه القيمة هتطلع وين؟ معايا على الخط وبالتالي
170
00:13:20,580 --> 00:13:27,120
هتاخد Y جديدة الفكرة أن الوصول لل regression model
171
00:13:27,120 --> 00:13:36,520
هذا أو معادلة الخط المستقيم هي
172
00:13:36,520 --> 00:13:41,260
بحد ذاتها data mining task predictive data mining
173
00:13:41,260 --> 00:13:45,900
task عشان أعمل estimation لهلـ Value لـ Numeric
174
00:13:45,900 --> 00:13:49,180
Value، مظبوط؟ لكن هذه واحدة من القرق اللي ممكن
175
00:13:49,180 --> 00:13:52,200
برضه اطبقها انا عندى وها احنا عادة بنسميها احنا
176
00:13:52,200 --> 00:13:59,000
Supervised Handling الشغل التالتة او الطريقة
177
00:13:59,000 --> 00:14:01,740
التالتة اللي ممكن اعتمد عليها انا موضوع ال
178
00:14:01,740 --> 00:14:04,120
clustering ال clustering اللي هي عبارة عن
179
00:14:04,120 --> 00:14:07,820
descriptive task في ال data mining تقسيم ال data
180
00:14:07,820 --> 00:14:13,090
set لمجموعة منلمجموعات من العناصر مجموعات عفوا
181
00:14:13,090 --> 00:14:17,270
مجموعات من العناصر الآن بالصورة هذه واضح ان ال
182
00:14:17,270 --> 00:14:19,790
data set تاني قدرت ان نشكلها في تلت مجموعات او
183
00:14:19,790 --> 00:14:23,610
نحطها في تلت مجموعات العناصر اللي برا المجموعات
184
00:14:23,610 --> 00:14:29,930
هذه ايش تمثل؟ تمثل noise data ممكن تكون outlier
185
00:14:29,930 --> 00:14:33,450
صحيح هي outlier بالنسبة لل cluster لكن لل general
186
00:14:33,450 --> 00:14:36,030
trend اللي موجود عندك هي مش outlier مش بعيدة كتير
187
00:14:36,030 --> 00:14:40,560
يعني ال point هذه هي أقرب لل cluster هذاالـ
188
00:14:40,560 --> 00:14:43,580
Outlier فعلياً يا شباب هي نقطة ممكن تكون موجودة
189
00:14:43,580 --> 00:14:49,200
هنا بالنسبة للرسمة Outlier يعني نقطة شاذة، لو كانت
190
00:14:49,200 --> 00:14:52,860
هذه نقطة واحدة، هذه النقطة فقط هي الموجودة وباقي
191
00:14:52,860 --> 00:14:56,780
النقاط اللي برا هذه مش موجودة، بقول عنها Outlier،
192
00:14:56,780 --> 00:15:01,300
لكن الآن بما أنه بمثل noise data، قاعد بأتكلم عليه
193
00:15:01,300 --> 00:15:08,840
مجموعة من العناصر، الآن قدامي حل من اتنيناما اعتمد
194
00:15:08,840 --> 00:15:12,140
فقط على ال data set أو ال elements أو ال samples
195
00:15:12,140 --> 00:15:16,380
اللي في داخل ال clusters التلاتة هدول بعد ما عملت
196
00:15:16,380 --> 00:15:20,820
clustering و اتجهل او اعمل delete لكل ال noise
197
00:15:20,820 --> 00:15:25,280
data هاي بس فعليا أنا قاعد بدحّب عدد كبير من ال
198
00:15:25,280 --> 00:15:29,520
data set ولا لأ؟لأ، الحل التاني إن ممكن أنا أستخدم
199
00:15:29,520 --> 00:15:33,920
الـ Common Sense أو أروح أفحص كل واحدة فيهم بشكل
200
00:15:33,920 --> 00:15:38,660
مستقل إيش الـ Outlier Value أو إيش الـ Noise
201
00:15:38,660 --> 00:15:41,260
عفواً، إيش الـ Noise Value اللي خلتها بعيدة عن ال
202
00:15:41,260 --> 00:15:45,640
cluster هذي حتما ال point هذه أقرب ل cluster هذا
203
00:15:45,640 --> 00:15:49,220
من هذا، قصده ولا لأ؟ إيش اللي خلاها بعيدة هنا؟
204
00:15:49,220 --> 00:15:52,160
هتلاقي في Single Value موجودة في attribute معين
205
00:15:52,160 --> 00:15:57,110
ممكن هذه أروح أعملها Adjustment و أضيفها لمين؟للـ
206
00:15:57,110 --> 00:15:59,890
cluster اللي موجود عشان مضحيش بال data لكن لو كانت
207
00:15:59,890 --> 00:16:03,410
نقطة أو تنتين ومش قادرة تحاول تعملهم handling ضمن
208
00:16:03,410 --> 00:16:06,990
العدد الكبير اللي موجود عندي هنا فممكن تحذفهم و
209
00:16:06,990 --> 00:16:11,130
تخلص الان في ال clustering و بتحديدا مع ال
210
00:16:11,130 --> 00:16:15,390
visualization سواء كنت في ال regression أو بال
211
00:16:15,390 --> 00:16:19,790
clustering لاحظ الرسمة كانت بتخدمني بشكل كبير في
212
00:16:19,790 --> 00:16:23,790
موضوع كده أفهم ال data اللي موجود عندي وقدرت أحدد
213
00:16:23,790 --> 00:16:30,640
من ال outlierبكل بساطة وهيك بتكون خلصنا من معالجة
214
00:16:30,640 --> 00:16:36,220
ال noise data خلصنا من معالجة ال noise data في ال
215
00:16:36,220 --> 00:16:40,580
inconsistent data inconsistent data غير متناسقة
216
00:16:40,580 --> 00:16:48,580
عمره 40 سنة و تاريخ ميلاده 1990 male و pregnant
217
00:16:48,580 --> 00:16:56,540
مولود في 1900 وخشبة و طالب سنة أولى ابتدائيفهذه
218
00:16:56,540 --> 00:17:00,960
المعلومات هي الـ Inconsistent تتوقع ممكن تلاقي
219
00:17:00,960 --> 00:17:08,700
system في الدنيا يحددلك إياها؟
220
00:17:08,700 --> 00:17:12,540
أيوة، يعني بدك يكون فعليا Dedicated System تم
221
00:17:12,540 --> 00:17:16,300
إنشاء نظام للحالات اللي زي هذه وحط ال rules زي ما
222
00:17:16,300 --> 00:17:21,400
عمله بجول كريم بس الآن في موضوع المال و pregnant
223
00:17:21,400 --> 00:17:26,250
الحامل للذكور هل هذا وارد؟في عمر واحد عاجل بيفكر
224
00:17:26,250 --> 00:17:30,070
يبني rule زي هيك عشان يدور لأنه الأصل لأ، لكن في
225
00:17:30,070 --> 00:17:34,270
لحظة من اللحظات ممكن أنا أضطر أكتب rule عشان يحل
226
00:17:34,270 --> 00:17:37,750
أو يدورلي على الحالات اللي زي هذه، بس فعليا مش
227
00:17:37,750 --> 00:17:42,370
هتلاقيه بسهولة، انت بتعمله development الشغل ال
228
00:17:42,370 --> 00:17:47,490
manual أحسن لأن هذه ال cases قليلة جدا، تمام؟
229
00:17:47,490 --> 00:17:52,880
وغالبا هتختلف من حالة لحالةلكن احنا بنقول لو فرضا
230
00:17:52,880 --> 00:17:57,200
ان الحالة هذه ممكن تتكرر ايش بروح بساوي ممكن
231
00:17:57,200 --> 00:18:00,440
ابنيلها system بسيط يعمل ال check تماما زي اللي
232
00:18:00,440 --> 00:18:05,240
بتكلم عن ال spelling check programs الان الخطاء
233
00:18:05,240 --> 00:18:08,720
الإملئي أثناء الكتابة ايش هو مش هو عبارة عن برنامج
234
00:18:08,720 --> 00:18:13,780
عنده موجود الكلمات بين جثين ال rules وبروح بصير
235
00:18:13,780 --> 00:18:18,760
يقارنها بعضهم راح يقولك في عندك grammar checkبدي
236
00:18:18,760 --> 00:18:21,720
أعرف قوانين الكتابة وصياغة اللغة وهنا نفس الكلام
237
00:18:21,720 --> 00:18:28,320
بدي أصير أنا أكون عارف وين ال inconsistency بتصير
238
00:18:28,320 --> 00:18:30,600
بين ال attributes وصير أحطها في rules عشان يعملها
239
00:18:30,600 --> 00:18:34,740
detection لكن هذا الكلام صعب وصعب جدا احنا بدنا
240
00:18:34,740 --> 00:18:38,460
نعمل focus على الشغل لكن ممكن المعنى والهدا مهم
241
00:18:38,460 --> 00:18:43,440
جدا عشان هيك عشان هيك أول واحدة في معالج ال
242
00:18:43,440 --> 00:18:49,580
inconsistent data ال common senseتستخدم المنطق
243
00:18:49,580 --> 00:18:53,980
السليم تبعك في التفكير مش بس الإحساس اقول اه والله
244
00:18:53,980 --> 00:18:58,660
okay male و pregnant انا حاسس انه مش صحيح المعلوم
245
00:18:58,660 --> 00:19:02,720
لأ ال common sense مقصودها ان البديهيات بالنسبة
246
00:19:02,720 --> 00:19:06,780
اليك فخلاص في مشكلة هنا male مستحيل يكون pregnant
247
00:19:06,780 --> 00:19:11,440
او يكون ال gender عندي مدخل خطأ و هو female مصبوط
248
00:19:11,440 --> 00:19:15,500
ولا لأ؟ وبالتالي هذه الحالتين الموجودات لكن لو
249
00:19:15,500 --> 00:19:23,560
طلعت في السجل كله ياتهدخل مدرسة للذكور ومحطوط لبعد
250
00:19:23,560 --> 00:19:30,920
فترة pregnant لأ مستحيل فكلمة pregnant هي الخطأ
251
00:19:30,920 --> 00:19:35,120
وبالتالي بدنا نشيلها من العناصر الموجودة الفكرة
252
00:19:35,120 --> 00:19:38,020
كمان مرة يا جماعة الخير ال common sense لازم تكون
253
00:19:38,020 --> 00:19:41,880
حاضرة احنا عندنا مشاكل كبيرة مع الأنظمة كعرب لما
254
00:19:41,880 --> 00:19:42,840
اتكلم بال hands up
255
00:19:45,990 --> 00:19:51,190
حمزة مكسورة، حمزة مفتوحة، حمزة مضمومة والإنجليز
256
00:19:51,190 --> 00:19:54,710
كذلك عندهم نفس المشاكل الأجانب في عند الـDennis
257
00:19:54,710 --> 00:20:00,050
وDennis وهاي قرها عن هاي واحد يقول الـMan names
258
00:20:00,050 --> 00:20:02,690
أساسا مابديش هي في ال mining task بقوله كلامك صح
259
00:20:02,690 --> 00:20:06,390
بس هذا الكلام وارد عشان تقدر توافق على سبيل المثال
260
00:20:06,390 --> 00:20:10,210
في ال integration لما نجيه كمان شوية بدي أجمع two
261
00:20:10,210 --> 00:20:13,470
datasets مع بعضهم لجيت رقم واحد، اتنين، تلاتة،
262
00:20:13,470 --> 00:20:18,130
أربعة واسمه Dennis، الاسم الأولورقمه في الـ Data 6
263
00:20:18,130 --> 00:20:22,550
اللي جاي من وزارة الصحة 1234 والاسم مكتوب Dennis
264
00:20:22,550 --> 00:20:25,250
بالـ Spelling التاني هجول لا لا هدول الـ Two
265
00:20:25,250 --> 00:20:30,110
Records مش نفسهم لأ هما نفسهم ومافيش بينهم تعارض
266
00:20:30,110 --> 00:20:35,610
لأ ما هو في شغلات بتأكد أن ممكن الـ Data تكون هذي
267
00:20:35,610 --> 00:20:42,110
غلط بصبت؟ يعني الآن لجيت Two Records نفسه الـ ID
268
00:20:42,110 --> 00:20:44,890
1234 و1 خليل و2 حسن
269
00:20:47,870 --> 00:20:52,910
لأ، في غلط، لكن لما ألاقي هذا Dennis وDennis مافيه
270
00:20:52,910 --> 00:20:56,310
غلط، صح فيه difference في ال value تبع ال name
271
00:20:56,310 --> 00:21:01,770
هنا، لكنه فعلاً ضمن ال common sense هذا نفس الإسم،
272
00:21:01,770 --> 00:21:08,430
إيش يا محمد، تمام؟ طبعا،
273
00:21:08,430 --> 00:21:11,010
بكتب دور على ال inappropriate values القيم الغير
274
00:21:11,010 --> 00:21:16,010
منطقية أو الغير متاحة،
275
00:21:16,010 --> 00:21:16,290
طيب
276
00:21:20,090 --> 00:21:24,030
كيبك تصلحها؟ كيبك تصلح الـ inconsistent data؟
277
00:21:24,030 --> 00:21:30,910
Manual، بعد ما أحددها، بدي أحددها أصلحها إيش؟
278
00:21:30,910 --> 00:21:34,190
Manual، يعني لازم أرجع لل documents و أقارن ال
279
00:21:34,190 --> 00:21:38,090
data اللي موجودة عندها تخيل، بقولك أنت لو روحت على
280
00:21:38,090 --> 00:21:44,970
زبائن بنك معين و لجيت 5% منهم كلهم مولودين في 112
281
00:21:48,490 --> 00:21:51,850
صدفة حلوة لأ أنا بقولك في خطأ و .. و .. خطأ أكيد
282
00:21:51,850 --> 00:21:56,090
يعني عويجي يقولي والله الطلاب المسجلين عشرين
283
00:21:56,090 --> 00:21:58,570
فالمية من الطلاب الموجودين بيننا الآن في المحاضرة
284
00:21:58,570 --> 00:22:01,290
في ال data mining من موريد الف وتسعمائية وخشبة
285
00:22:01,290 --> 00:22:04,790
مستحيل
286
00:22:06,190 --> 00:22:10,250
كيف اتجمع كلهم؟ هل هم .. الآن تقولك والله هذا
287
00:22:10,250 --> 00:22:13,290
التاريخ .. هذا التاريخ .. يعني لكل واحد فيه تاريخ
288
00:22:13,290 --> 00:22:18,590
مولاد مستقل و لا لأ تيجي تقولي عشان صدفة غريبة بما
289
00:22:18,590 --> 00:22:22,030
أنها غريبة بدروح اتحقق منها طب اتحقق منها كي بدوا
290
00:22:22,030 --> 00:22:27,870
تايم الشباب؟ هاتوا هوياتكم مش هيك اللي حيصير؟ هرجع
291
00:22:27,870 --> 00:22:31,250
لل document الحقيقي عشان انا اعمل ال check على ال
292
00:22:31,250 --> 00:22:35,570
values اللي موجودة من الشغلات اللي بتساعدني في فهم
293
00:22:36,920 --> 00:22:40,520
الـ Consistency تبع الـ Data و تحديد الـ
294
00:22:40,520 --> 00:22:46,440
Inconsistent Values الـ Metadata ليش؟
295
00:22:46,440 --> 00:22:48,820
لأن في الـ Metadata باجي أتكلم على الـ Domain و
296
00:22:48,820 --> 00:22:51,300
الـ Range و الـ Dependency و الـ Distribution تبع
297
00:22:51,300 --> 00:22:54,180
الـ Attributes بيجي يقولني والله عندي ال salary
298
00:22:54,180 --> 00:22:59,320
العبارة عن number تتراوح الأرقام أو ال values ال
299
00:22:59,320 --> 00:23:03,180
minimum salary 1500 و ال maximum salary 2700
300
00:23:06,210 --> 00:23:14,850
لاجيت فيه salary مدخل 3700 inconsistent ليش؟ لأنها
301
00:23:14,850 --> 00:23:18,810
طلعت برا .. برا ال rule اللي حددليها ال range
302
00:23:18,810 --> 00:23:24,710
تمام؟ وبالتالي فهم ال metadata بيساعدني في تحديد
303
00:23:24,710 --> 00:23:31,690
ال inconsistent data بدي أفحص ال field overloading
304
00:23:31,690 --> 00:23:36,380
أو ال field overloading شو يعني overloading؟بالـ
305
00:23:36,380 --> 00:23:40,020
object oriented شو يعني overloading؟ overloading
306
00:23:40,020 --> 00:23:43,460
method انه
307
00:23:43,460 --> 00:23:47,120
في عندى method بتحمل نفس الاسم لكن ال signature
308
00:23:47,120 --> 00:23:50,840
تبعتها مختلفة شو يعني ال signature؟ اما ال return
309
00:23:50,840 --> 00:23:55,880
value او ال parameter متفقين طيب يعني شو يعني
310
00:23:55,880 --> 00:23:59,840
overloading attribute؟ انه ال attribute هذا ظهر
311
00:23:59,840 --> 00:24:04,950
بشكل مختلف مع انه ال values تبعت ايش؟متشابهة يعني
312
00:24:04,950 --> 00:24:10,070
لجيت انا عندي فعليا ال age لجيت ال age و لجيت
313
00:24:10,070 --> 00:24:16,310
تاريخ الميلاد المفروض التانين بتدوني نفس المعلومة
314
00:24:16,310 --> 00:24:20,730
ولا شو رايكوا اه هو انا هكتفي بواحد يا أهي ابو
315
00:24:20,730 --> 00:24:25,430
حينه لكن الآن عشان انا افحص ال consistency ممكن
316
00:24:25,430 --> 00:24:31,090
هذا يخدمني في الموضوع ولا شو رايكوا ال uniqueness
317
00:24:31,090 --> 00:24:36,480
rulesكذلك أنه لما أنا بكون فاهم ال description صح
318
00:24:36,480 --> 00:24:40,840
وبيجي بقولي ال attribute الفلاني كل ال values اللي
319
00:24:40,840 --> 00:24:46,500
فيه unique تمام؟ كل ال values اللي فيه unique
320
00:24:46,500 --> 00:24:52,640
مابتتكررش وبلاجي فيه تكرار و هذا مؤشر أنه صار في
321
00:24:52,640 --> 00:24:56,420
عندي شغل غلط في ال data setهل الروها دي duplicated
322
00:24:56,420 --> 00:25:00,680
ولا فعليا في عندي عناصر عامالها بتظهر في الآخر
323
00:25:00,680 --> 00:25:03,460
ممكن يكون عند بعض ال commercial tools اللي بتعمل
324
00:25:03,460 --> 00:25:06,060
analysis لل data و بتجيبلي العلاقة بين ال values
325
00:25:06,060 --> 00:25:11,800
ال different values لكن مجالاتها قليلة جدا زي ما
326
00:25:11,800 --> 00:25:17,180
قلنا سابقا يعني بكل بساطة بكل بساطة ال
327
00:25:17,180 --> 00:25:22,540
inconsistent data بتحتاجك انت as a humanأكتر ما
328
00:25:22,540 --> 00:25:27,940
بتحتاج machine أو program عشان يحددها ويصلحها
329
00:25:27,940 --> 00:25:37,240
تمام؟ تمام يا شباب؟ تمام تمام ننتقل للنقطة اللي
330
00:25:37,240 --> 00:25:41,540
بعد هيك احنا قلنا للوصول لل knowledge presentation
331
00:25:41,540 --> 00:25:52,190
كم قطة بدي امشي؟ ايوة؟ سبعة data cleaningdata
332
00:25:52,190 --> 00:25:57,270
integration data selection data transformation
333
00:25:57,270 --> 00:26:00,890
data mining الـ transformation بالمناسبة قبل ال
334
00:26:00,890 --> 00:26:04,330
selection مش قضية كتير data mining knowledge
335
00:26:04,330 --> 00:26:09,570
knowledge evaluation أو better evaluation و
336
00:26:09,570 --> 00:26:14,210
knowledge presentation تمام الآن بدنا ننتقل لل
337
00:26:14,210 --> 00:26:19,460
task التانية مباشرة اللي هي ال dataIntegration
338
00:26:19,460 --> 00:26:24,140
يعني احنا بفهم بناء على الخطوة هاي إذا كان في عندي
339
00:26:24,140 --> 00:26:29,380
two different data source data set one و data set
340
00:26:29,380 --> 00:26:36,020
two من different resources الأصل .. الأصل أن أعمل
341
00:26:36,020 --> 00:26:42,720
cleaning لتنتين جبل ما أعمل integration ليش؟
342
00:26:43,160 --> 00:26:47,100
لأنه فعليا احنا مش بحاجة ال null حتصير في عندي
343
00:26:47,100 --> 00:26:50,240
مشكلة فانا لما بدي اعمل integration بدي اكون على
344
00:26:50,240 --> 00:26:53,760
السليم يعني في مرحلة ما بعد ال cleaning عشان اضمن
345
00:26:53,760 --> 00:26:58,000
يصير في عندي combination صح لل data set الآن
346
00:26:58,000 --> 00:27:00,440
وبالتالي ال data integration هي عبارة عن
347
00:27:00,440 --> 00:27:03,080
combination أو combines ال data from different
348
00:27:03,080 --> 00:27:07,480
sources زي ما قلنا سابقا بالمثال اللي قلناه هنكرره
349
00:27:07,480 --> 00:27:13,210
كتير كاسمتقدير تحصيل الطالب أو مستوى تحصيل الطالب
350
00:27:13,210 --> 00:27:15,950
في المرحلة الابتدائية بناء على الحالة الصحية،
351
00:27:15,950 --> 00:27:18,730
مصبوط؟ وكل هذه المعلومات من two different
352
00:27:18,730 --> 00:27:23,810
resources تربية و التعليم و الصحة و بدي اعمل
353
00:27:23,810 --> 00:27:29,330
integration ما بين العناصر اللي موجودة عندها ليش
354
00:27:29,330 --> 00:27:35,110
انا فعليا بدي اعمل data integration لواحد من سببين
355
00:27:35,110 --> 00:27:47,080
الأول انه انا في عندي smalldata set small
356
00:27:47,080 --> 00:27:52,260
data set لما بتكلم small data set معناته ال
357
00:27:52,260 --> 00:27:58,220
integration هدفه زيادة عدد ال rows زيادة عدد ال
358
00:27:58,220 --> 00:28:05,820
samples، مظبوط؟ الشغل
359
00:28:05,820 --> 00:28:07,940
التاني سبب ال integration
360
00:28:11,780 --> 00:28:17,120
more information for
361
00:28:17,120 --> 00:28:23,700
the samples أنا بحاجة لمعلومات
362
00:28:23,700 --> 00:28:27,040
جديدة عن ال samples عاملا في المثال اللي بنقول
363
00:28:27,040 --> 00:28:31,180
عليه أنا عنده معلومات خاصة بالمدرسة و بالتعليم سجل
364
00:28:31,180 --> 00:28:33,920
الطالب التعليمي موجودة في وزارة و أنا شغال في
365
00:28:33,920 --> 00:28:38,520
الوزارة فهي موجودة عند ال data setالأن المعلومات
366
00:28:38,520 --> 00:28:41,640
اللي أنا بدي إياها إضافية عشان تخدم ال task تبعتي
367
00:28:41,640 --> 00:28:45,820
موجودة في وزارة الصحة مش بدأ أساوي بدي أجيبها عشان
368
00:28:45,820 --> 00:28:49,880
أضيف information لكل sample يعني أنا بدي أضيف بين
369
00:28:49,880 --> 00:28:57,380
جثين attributes مصبوط؟
370
00:28:57,380 --> 00:29:01,940
لأن هان مش هعمل على ال enlargement لل data set مش
371
00:29:01,940 --> 00:29:05,460
هزيد عدد ال rows هزيد عدد ال attributes
372
00:29:12,330 --> 00:29:21,810
الان لو انا بدي اعمل data set بسيطة هنا ال
373
00:29:21,810 --> 00:29:31,090
ID
374
00:29:31,090 --> 00:29:36,110
ال name ال
375
00:29:36,110 --> 00:29:39,150
age و ال level
376
00:29:42,930 --> 00:29:50,070
والـ GPA أو الـ Average GPA متوسط
377
00:29:50,070 --> 00:29:56,130
تحصيله هذه المعلومات من وين؟ من المدرسة أو من
378
00:29:56,130 --> 00:30:04,130
وزارة التدريب والتعليم في وزارة الصحة مافيش
379
00:30:04,130 --> 00:30:08,110
اهم مافيش
380
00:30:08,110 --> 00:30:13,070
average مافيش level مظبوط كلامكال ID و ال name
381
00:30:13,070 --> 00:30:18,850
بتكلم على ال weight العمر
382
00:30:18,850 --> 00:30:29,210
مثلا هاي ال age date of birth ليكن ال weight ال
383
00:30:29,210 --> 00:30:36,770
height illness هل في أمراض ولا لأ هل بتدناول أدوية
384
00:30:36,770 --> 00:30:40,350
ولا لأ treatment إلى آخره الأهم أنا بدي أعمل
385
00:30:40,350 --> 00:30:45,640
combinationأو بدي أجمع الـ two data set هدول عشان
386
00:30:45,640 --> 00:30:49,500
ال task تبعتي هدفها كمان مرة للمرة كده أشهد الألف
387
00:30:49,500 --> 00:30:54,580
تمام؟ كمان مرة بنتكلم أنه أنا بدي أحاول أعمل
388
00:30:54,580 --> 00:31:00,560
prediction لمستوى تحصيل الطالب بناء على سجله الصحي
389
00:31:00,560 --> 00:31:06,360
ال combination هذا هيصير هاني علي أبو الخير صحيح؟
390
00:31:10,100 --> 00:31:15,820
تمام هذا ال raw أو ال data set بدها تكون هنا وكأني
391
00:31:15,820 --> 00:31:24,320
بكل بساطة بدي اعمل inner join بين two tables فهذه
392
00:31:24,320 --> 00:31:26,880
ال combination كان هدفها او هذه ال integration
393
00:31:26,880 --> 00:31:32,420
هدفها اضافة معلومات جديدةلكل entity لكل sample لأن
394
00:31:32,420 --> 00:31:36,600
عشان تتحقق ال task الموجودة لكن لو قلنا والله أن
395
00:31:36,600 --> 00:31:42,360
الطالب هذا كان فترة الإبتدائي عايش أو بدرس في
396
00:31:42,360 --> 00:31:46,520
مدرسة خاصة أو مدرسة خاصة والمعلومات هذه ماكنتش
397
00:31:46,520 --> 00:31:50,560
موجودة في وزارة الصحة وقدرنا نحصل المعلومات هذه من
398
00:31:50,560 --> 00:31:57,880
المدرسة وين بدها تنضاف؟ بدها تنضاف record 10 بدها
399
00:31:57,880 --> 00:32:05,910
تنضافrecord هان تمام وبالتالي مصادر البيانات تبعتي
400
00:32:05,910 --> 00:32:10,750
انا تصنف على واحد من اتنين اما internal او
401
00:32:10,750 --> 00:32:14,390
external internal لما انا بكون as a developer او
402
00:32:14,390 --> 00:32:19,890
data scientist شغال والمعلومات هذه ملكي يعني انا
403
00:32:19,890 --> 00:32:23,530
شغال في وزارة التربية والتعليم وبدنا نشتغل على كذا
404
00:32:23,530 --> 00:32:27,790
هذه المعلومات عندى موجودة في ال database تبعتي
405
00:32:29,690 --> 00:32:33,650
تمام؟ هذه بنسميها Internal Source طب و ال External
406
00:32:33,650 --> 00:32:37,930
Source أنه أنا فعليا بيانات بدي أحاول أستعيد ..
407
00:32:37,930 --> 00:32:42,690
ممكن أدفع حجها أحيانا أحصل عليها من برا الآن
408
00:32:42,690 --> 00:32:47,870
بالنسبة إيه للبيانات في وزارة الصحة External ..
409
00:32:47,870 --> 00:32:54,370
الآن لما بدك .. روحت الآن ال ..يتكلموا على الشركات
410
00:32:54,370 --> 00:32:58,270
الإتصالات والبنوك والـ Credit Cards والمعاملات مش
411
00:32:58,270 --> 00:33:03,170
كل المعلومات Local مصبوط؟ بنك فلسطين الآن Local
412
00:33:03,170 --> 00:33:05,990
لما أنا بكون جوا فلسطين و بستخدم ال ATM تبعته
413
00:33:05,990 --> 00:33:09,690
بأنتقل باستخدام ATM بتاعة البنك الإسلامي الفلسطيني
414
00:33:09,690 --> 00:33:14,440
أو العربي بديت فيه عندي Transaction Externalكنت في
415
00:33:14,440 --> 00:33:17,440
دولة تانية و استخدمت بطاقة بنك فلسطين برضه فيها
416
00:33:17,440 --> 00:33:20,800
عندى external data وإن كان حصير فيه hint أو فيه
417
00:33:20,800 --> 00:33:25,400
عندى مقاصة لل value اللى موجودة مش قضية كتير بس
418
00:33:25,400 --> 00:33:28,320
احنا بدنا نفهم انه فيه عندى ال data تصنف بناء على
419
00:33:28,320 --> 00:33:35,540
مصدرها وعادة التعامل مع ال internalأسهل من ال
420
00:33:35,540 --> 00:33:39,580
external لأن عادة ال internal أنا فاهمها كويس عارف
421
00:33:39,580 --> 00:33:43,540
إيش محتوياتها عارف إيش عيوبها بالتفصيل و بقدر لكن
422
00:33:43,540 --> 00:33:47,700
اللي برا تحتاج مني جهد أكتر و غالبا ما هي مش على
423
00:33:47,700 --> 00:33:52,420
مزاجي فحتى عب عليها كويس في موضوع ال integration
424
00:33:52,420 --> 00:33:58,400
ضروري تنتبه لل identity identification أنا قبل
425
00:33:58,400 --> 00:34:03,000
شوية قلت اسمه واحد اتنين تلاتة أربعة و مرة أحمد
426
00:34:04,240 --> 00:34:10,340
ومرة تانية خليل اعمل
427
00:34:10,340 --> 00:34:14,960
merge لل two rows هذول يعني اسمه هان واحد اتنين
428
00:34:14,960 --> 00:34:21,900
تلاتة اربعة احمد وانا واحد اتنين تلاتة اربعة خليل
429
00:34:21,900 --> 00:34:27,740
وانا بقعد بدي اعمل integration بين ال two datasets
430
00:34:27,740 --> 00:34:35,440
هذول شو رايكوا اذا انا بدي اعتمد على ال ID هيهال
431
00:34:35,440 --> 00:34:40,940
ID بيقوللي ادمج نصبوت؟ ال ID بيقوللي ادمج اذا كنت
432
00:34:40,940 --> 00:34:43,680
انا بدي اعتمد فقط على ال primary key بيقوللي ادمج
433
00:34:43,680 --> 00:34:49,180
بس في شغل عاملها بتقوللي لا ايجف يعني هذا شخص ممكن
434
00:34:49,180 --> 00:34:55,240
يكون غيره شو بيطلب مني هذا الكلام؟ خلصنا من ال
435
00:34:55,240 --> 00:34:58,300
noise شو بيطلب مني هذا الكلام؟ انا الآن مش عارف
436
00:34:58,300 --> 00:35:02,340
مين فيهم ال noise داتا اذا كانت بتتكلمي تمام؟
437
00:35:02,340 --> 00:35:04,540
ignore ال record ممتاز
438
00:35:06,980 --> 00:35:10,280
طيب ليش ما تفكر انه ليش ما يكون في وزارة الصحة
439
00:35:10,280 --> 00:35:15,060
مجدمين اسم العائلة مثلا يعني احنا هنعتمدنا على ال
440
00:35:15,060 --> 00:35:17,500
first name هو اسم العائلة وبالتالي مازالين بس
441
00:35:17,500 --> 00:35:21,140
اتحقق شو هو بقى الأسامي اللي موجودة انا أخدتها
442
00:35:21,140 --> 00:35:25,860
الان انتبه انا بدي الاسم الأول او بدي ال full name
443
00:35:25,860 --> 00:35:30,320
الان في حياة ال full name و ال full name مختلفين و
444
00:35:30,320 --> 00:35:34,020
ال ID واحد لسه ما زلت انا بدي احاول اتشبث بال
445
00:35:34,020 --> 00:35:38,850
recordو أخلّيه عندى بأكبر قدر ممكن باطلّع على باقي
446
00:35:38,850 --> 00:35:45,530
مثلا باطلّع على ال age 17 17 إذا هل في common
447
00:35:45,530 --> 00:35:49,910
attributes بين التنين بيأكدولي إن هذا هو نفسه هذا
448
00:35:49,910 --> 00:35:53,810
ممكن أصيب أتجوز عن من؟ عن الإسم لأنه فعلا الإسم مش
449
00:35:53,810 --> 00:35:57,690
هيخدمني بس أنا حاليا بدي أتأكد إن هذا real entity
450
00:35:57,690 --> 00:36:01,910
موجودة عندى في ال data set هذه بنسميها ال entity
451
00:36:01,910 --> 00:36:03,550
identification
452
00:36:05,840 --> 00:36:08,740
الproblem ال value of conflict او ال value
453
00:36:08,740 --> 00:36:17,860
conflict التعارض ما بين القيم لجيت عمره هان 17 و
454
00:36:17,860 --> 00:36:27,520
هان لجيته 15 انا في الآخر هحتفظ ب one edge مظبوط؟
455
00:36:27,520 --> 00:36:32,840
يعني غالبا ال edge هان مش هجيب ليه طب باس مين فيهم
456
00:36:32,840 --> 00:36:36,900
الصح؟الخمسة عشر ولا السبعتاشر؟ ال date of birth
457
00:36:36,900 --> 00:36:43,760
هنا موجود قاللي والله انه تاريخ ميلاده هذا الفين
458
00:36:43,760 --> 00:36:48,180
وخمسة واحنا الفين وعشرين ميلاده خمسة عشر ميلاده
459
00:36:48,180 --> 00:36:52,240
الخطأ عندي هنا وهذا بتطلب برضه مني manual
460
00:36:52,240 --> 00:36:56,860
correctness عشان اعدي ال level ممكن يكون عندي
461
00:36:56,860 --> 00:37:01,120
indicatorطبعا لكن بيظل فيه احتمال ان هو فعليا ايش
462
00:37:01,120 --> 00:37:04,600
يكون مثلا اتأخر سنة او رصب سنة او ما شابه لكن ال
463
00:37:04,600 --> 00:37:08,140
date of birth كان بيقول لأ يا اما هو متأكد لان هو
464
00:37:08,140 --> 00:37:12,420
بيقطفيه تقابق ما بين ال values ال redundant
465
00:37:12,420 --> 00:37:21,100
teachers انا مافيش عندي ال age هنا لكن
466
00:37:21,100 --> 00:37:26,140
عنديdate of birth تاريخ الميلاد لما انا اعمل
467
00:37:26,140 --> 00:37:30,140
marriage تاريخ الميلاد هيجينيها ك attribute لكن
468
00:37:30,140 --> 00:37:35,220
المعلومات اللي فيها موجودة عندى سابقا فبرضه انا
469
00:37:35,220 --> 00:37:38,820
بدى أنتبه لها يعني في عندى تلت شغلات أساسية بدى
470
00:37:38,820 --> 00:37:42,320
أنتبه لعندي عملية ال integration اتأكد من ال
471
00:37:42,320 --> 00:37:46,020
identification لكل entity اللي فعليا ال entity
472
00:37:46,020 --> 00:37:51,340
تقابل ال entity المقابلة بتاعتها بشكل صحيحالـ
473
00:37:51,340 --> 00:37:54,300
value conflict أو الـ inconsistent اللي ممكن تصير
474
00:37:54,300 --> 00:37:56,660
عندي زي ما صار معايا في الاسم أو صار معايا في ال
475
00:37:56,660 --> 00:38:02,380
age وفي الآخر في ال redundant features أو في تكرار
476
00:38:02,380 --> 00:38:08,060
ال attributes اللي موجودة عندي وبرضه الشغل هيكون
477
00:38:08,060 --> 00:38:13,740
manual ممكن اكتب code عشان يعمل integration لو انت
478
00:38:13,740 --> 00:38:17,820
طبقت عملت ال inner join بين ال two tables هدول ايش
479
00:38:17,820 --> 00:38:24,280
اللي بصير؟بياخد ال rows بناء على ال ID ال ID
480
00:38:24,280 --> 00:38:29,920
المختلف بين التنين مابيطلعش يعني تخيل ان هنا واحد
481
00:38:29,920 --> 00:38:36,660
اتنين تلاتة تسعة مافيش هنا وهنا عندي واحد اتنين
482
00:38:36,660 --> 00:38:42,860
تلاتة تمانية مش موجود هنا هذا ال row مش هيظهر وهذا
483
00:38:42,860 --> 00:38:47,200
ال row مش هيظهر ولا لأ؟ ليش؟ لأن فعليا مافيش
484
00:38:47,200 --> 00:38:51,220
integration ما بين ال rows اللي موجودةلكن لاحظوا
485
00:38:51,220 --> 00:38:55,760
المشكلة دي انا ماعانيت منها مطلقا لما روحت جيبت
486
00:38:55,760 --> 00:39:00,260
مصدر تاني للبيانات وصرت اجمعها عشان ازيد مين؟ عدد
487
00:39:00,260 --> 00:39:04,000
الروز لان في الآخر انا جيبت من المدرسة الخاصة جيبت
488
00:39:04,000 --> 00:39:08,180
ال name و ال age و ال level و ال GPA لمجموع الطلاب
489
00:39:08,180 --> 00:39:13,120
عشان ازيد ازيد محصلة الروز اللي موجودة عندها
490
00:39:19,090 --> 00:39:24,050
هننتقل الآن لموضوع الـ Data Transformation اللي هي
491
00:39:24,050 --> 00:39:30,150
الخطوة الرب العد ايوة أهب تفضل اسأل مثلا زي
492
00:39:30,150 --> 00:39:33,850
الميديا اللي جيت العالم الأول بسيط هجيته فعلا فعلا
493
00:39:33,850 --> 00:39:37,070
هذا مثلا الإنسان بدري يعمل بحث زي هيك هل فعلا مهتم
494
00:39:37,070 --> 00:39:41,430
في ال record زي ما هذا ولا بس انه اتعلم الصحيح؟
495
00:39:41,430 --> 00:39:45,210
شوفي أهب كل record بتضيفه على ال data set الأصل
496
00:39:45,210 --> 00:39:49,450
بتضيف لك knowledge جديدة و بقوّي ال ruleأو الـ
497
00:39:49,450 --> 00:39:52,550
predictors اللي انت بدك تنشئه عشان هيك فعليًا انت
498
00:39:52,550 --> 00:39:58,150
محتاجه كل ما كانت عدد ال data set قليلة أو
499
00:39:58,150 --> 00:40:05,170
المعلومات اللي عندك قليلة انت بحاجة لأي .. أي شغل
500
00:40:05,170 --> 00:40:08,730
بتعزز البيانات اللي موجودة عندك حتى لو one record
501
00:40:08,730 --> 00:40:13,270
بدك تضيفه لكن ال data set اللي عندي حجمها 100 ألف
502
00:40:13,270 --> 00:40:17,950
recordولا جيت عشرة record أو ميت record أو ألف
503
00:40:17,950 --> 00:40:23,870
record في مكان ما مش ضروري أفكر فيهم كتير إذا أنا
504
00:40:23,870 --> 00:40:26,450
واثق في البيانات اللي عندي لكن لو كانوا الألف
505
00:40:26,450 --> 00:40:30,110
record هدول بمثله حالة خاصة وانا بدي أدرجها في
506
00:40:30,110 --> 00:40:33,090
النظام تبعتي لازم أعملها integration للميت ألف
507
00:40:33,090 --> 00:40:37,890
اللي عندي وصيروا ميت ألف وواحد تمام؟ أو مية وواحد
508
00:40:37,890 --> 00:40:42,570
ألف في موضوع ال transfer .. في أي شباب عنده ..
509
00:40:42,570 --> 00:40:48,020
شباب في حد عنده أي سؤال تانيهننتقل لموضوع أو نكمل
510
00:40:48,020 --> 00:40:51,100
في ال steps و بنحاول إن شاء الله الأسبوع هذا ننهي
511
00:40:51,100 --> 00:40:53,540
ال chapter اللي احنا بنشتغل فيه لأنه صارنا قداشة
512
00:40:53,540 --> 00:40:55,320
هذا الأسبوع التالت و احنا بنخد في ال data
513
00:40:55,320 --> 00:40:58,620
understanding و ال preparation فبديش ياخد تحسه
514
00:40:58,620 --> 00:41:03,540
بالملل فبنروح باتجاه ال mining إن شاء الله الآن في
515
00:41:03,540 --> 00:41:07,900
ال data transformation المقصود فيها تحويل أو تحوير
516
00:41:07,900 --> 00:41:14,330
البيانات من formمن صورتها الحالية اللى تظهر بصورة
517
00:41:14,330 --> 00:41:19,910
تتناسب مع ال mining task عاما اللى احنا بنقول بقول
518
00:41:19,910 --> 00:41:22,430
انا في عندى تاريخ الميلاد يا جماعة الخير date of
519
00:41:22,430 --> 00:41:22,750
birth
520
00:41:27,040 --> 00:41:30,680
القيم اللي موجودة فيه .. القيم اللي موجودة فيه
521
00:41:30,680 --> 00:41:35,760
بتقول إذا أنا بدي أبني decision rules هيكون عندي
522
00:41:35,760 --> 00:41:39,580
ال values كتيرة لأنه انولد في شهر واحد غير ان
523
00:41:39,580 --> 00:41:42,320
انولد في شهر اتنين في عندى تلاتين خيار في شهر واحد
524
00:41:43,080 --> 00:41:49,060
و28 في شهر 2 و 31 في شهر 3، مصبوط؟ معناته على مدار
525
00:41:49,060 --> 00:41:53,500
السنة، يعني أنا بتكلم هيك وكأنه وكأنه عندي 365
526
00:41:53,500 --> 00:41:59,420
variable أو value بدها تدخل في ال decision rules
527
00:41:59,420 --> 00:42:04,480
تبعي هذاهذا الكلام مش منطق بينما كل الناس اللي في
528
00:42:04,480 --> 00:42:08,680
مستوى أول مثلا أو في فئة الجامعة هدولة فئة واحدة
529
00:42:08,680 --> 00:42:12,260
طلاب المدارس في الثانوية فئة تانية اللي من الإعداد
530
00:42:12,260 --> 00:42:16,880
يو انزل فئة تالتة الخرجين فئة رابعة فهذه الفئات
531
00:42:16,880 --> 00:42:22,740
تاريخ الميلاد هذا مابكفنيش يا راني تاريخ الميلاد
532
00:42:22,740 --> 00:42:27,460
هذا مابنفعنيش فانا محتاج ان اغير صورة تاريخ
533
00:42:27,460 --> 00:42:28,120
الميلاد
534
00:42:34,920 --> 00:42:42,620
الى age بال age بكون انا عملت ايش قللت ال value
535
00:42:42,620 --> 00:42:46,360
اللى موجودة قللت ال value اللى موجودة عندى
536
00:42:46,360 --> 00:42:53,260
وبالتالي قللت ال decision rules تبعتي لكن لاحظ ان
537
00:42:53,260 --> 00:42:56,840
تاريخ الميلاد و ال age اللى كتب معاه نفسه من ال
538
00:42:56,840 --> 00:43:04,190
2005 و كتبت ال age 15 مافقدتش المعلومة تبعتيمصبوب؟
539
00:43:04,190 --> 00:43:07,090
والأفضل من هيك لو جسمتم لفئات زي ما هنشوف كمان
540
00:43:07,090 --> 00:43:13,110
شوية فمن ال data transformation method ل smoothing
541
00:43:13,110 --> 00:43:19,430
method لما عملت pinning عبارة عن smoothing method
542
00:43:19,430 --> 00:43:24,190
ال regression smoothing method بس هدفها الأساسي
543
00:43:24,190 --> 00:43:30,110
تخلص من ال noise واحد يقول ليه ال smoothing
544
00:43:30,110 --> 00:43:33,650
حطيناها من ال transformation؟ال data أخدت صور
545
00:43:33,650 --> 00:43:38,150
مختلفة البن الأولى أخدت قيمة بدل كل القيم اللي
546
00:43:38,150 --> 00:43:42,810
كانت في البن ايش أخدت؟ أخدت ال median او أخدت ال
547
00:43:42,810 --> 00:43:47,870
mean أربعة فبالتالي القيم تغيرت كانت شكل وصارت شكل
548
00:43:47,870 --> 00:43:54,190
آخر ال values اللي عندي كانت 17 مليون
549
00:43:57,970 --> 00:44:01,050
الأرقام هذه كبيرة ما بتتناسبش مع ال computation
550
00:44:01,050 --> 00:44:06,770
تبعتي فانا بدي أخليها 1.7 كذلك ال 18 وال 20 مليون
551
00:44:06,770 --> 00:44:13,410
ال 20 صارت 2 و ال 1.5 صارت 15 و هكذا فهذا التحوير
552
00:44:13,410 --> 00:44:18,170
ال data كانت في صورة وصارت في صورة مختلفة
553
00:44:22,870 --> 00:44:26,570
God كان بهدف التخلص من الـ Noise، تمام؟ لكن
554
00:44:26,570 --> 00:44:30,010
فعليًا، فعليًا الـ Data اللي صارت موجودة في الـ
555
00:44:30,010 --> 00:44:35,310
Attribute هي عبارة عن New Transformation، تحور للـ
556
00:44:35,310 --> 00:44:38,830
Data، مصدورة لا لأ؟ ضالت الـ Original Data؟ لأ،
557
00:44:38,830 --> 00:44:41,750
فعليًا صار عليها تحور، عشان هيك ذكرناها أول واحدة،
558
00:44:41,750 --> 00:44:46,370
لأنها مرت علينا سابقًا الـ Aggregation، أنا فعليًا
559
00:44:46,370 --> 00:44:50,810
ممكن أروح أضيف أو أعمل شغلات، يعني الآن بروح بقولي
560
00:44:50,810 --> 00:44:56,410
والله بدنا نحسبان نحاول نتنبأ ان الموظف الحكومي
561
00:44:56,410 --> 00:45:05,490
بعد كام سنة ممكن يشتري بيت يا
562
00:45:05,490 --> 00:45:09,940
عم الله يرزق الجميع من فضله ان شاء اللهأنا عند
563
00:45:09,940 --> 00:45:14,120
الراتب الشهري لكن عادة الراتب الشهري مبلغ قليل
564
00:45:14,120 --> 00:45:17,620
ماحدش بدور عليه في التعاملات اللي زي هذه بروح بده
565
00:45:17,620 --> 00:45:21,620
الراتب السنوي طب أنا ماعنديش الراتب السنوي عند بس
566
00:45:21,620 --> 00:45:27,000
الراتب الشهري بأضربه ب12 بأضربه ب12 مظبوط؟ ايش
567
00:45:27,000 --> 00:45:30,800
سويت .. كل السنوات و أنا عملية ضرب بس فعليا نقلت
568
00:45:30,800 --> 00:45:36,070
ال dataمن Range وحطتليها في Range مختلف وهذه برضه
569
00:45:36,070 --> 00:45:39,210
Transformation فنسميها احنا Aggregation
570
00:45:39,210 --> 00:45:42,450
Transformation او Aggregate Transformation
571
00:45:42,450 --> 00:45:46,530
Generalization لما انا بأتكلم ان ال data ال set
572
00:45:46,530 --> 00:45:53,330
تبعت فيه تتبع Hierarchy معينة زي ايش انا في عند ال
573
00:45:53,330 --> 00:46:00,930
country وفي عندي ال set ال state وعندي
574
00:46:02,180 --> 00:46:08,860
الـ city وعندي ال neighborhood الحي
575
00:46:08,860 --> 00:46:18,100
وعندي ال street مثلا شو
576
00:46:18,100 --> 00:46:24,100
علقت هدول في بعض الشارع عنوان تفصيل العنوان الشارع
577
00:46:24,100 --> 00:46:27,040
موجود في حي و الحي موجود في مدينة و المدينة موجود
578
00:46:27,040 --> 00:46:32,290
في ولاية و الولاية بتتبع دولةأنا الآن العنوان اللي
579
00:46:32,290 --> 00:46:39,890
موجود عندي مكتوب لحالة مستوى الشارع غزة
580
00:46:39,890 --> 00:46:45,010
الرمال شارع عمرو بن عبدالعزيز هذا بس عشان يُنذَكر
581
00:46:45,010 --> 00:46:52,070
خلال اليومين الماضيات في الخبار طبعا؟ الآن طب هل
582
00:46:52,070 --> 00:46:55,150
التفاصيل هذه بهمني أنا؟ طب ما هي ال redundant
583
00:46:55,150 --> 00:47:00,180
value أو عفوا القيم الكتيرة المختلفة هذه؟برضه
584
00:47:00,180 --> 00:47:03,060
بتصعب موضوع ال decision تبعتي طبما هي الرمال كلها
585
00:47:03,060 --> 00:47:09,420
منطقة واحدة فانا بدي استغني عن ال street واصير
586
00:47:09,420 --> 00:47:13,760
اتكلم على ال neighborhood وحتى ال neighborhood مش
587
00:47:13,760 --> 00:47:19,660
فارج كبير رمال وشجعية مش فارج كتير تمام فانا هضطر
588
00:47:21,060 --> 00:47:24,080
لاحظ انه لما انا بتكلم على transformation يا جماعة
589
00:47:24,080 --> 00:47:27,020
الخير لاحظوا يا جماعة الخير انه لما انا بأعمل
590
00:47:27,020 --> 00:47:33,720
transformation بحول ال value من street ل
591
00:47:33,720 --> 00:47:38,340
neighborhood او ل city فقدت معلوماتش ايه؟ لأ هي
592
00:47:38,340 --> 00:47:41,220
نفس المعلومات نفس ال representation بس انا مش
593
00:47:41,220 --> 00:47:44,200
بحاجة ل two details هاي هذا برضه بنسميه
594
00:47:44,200 --> 00:47:48,810
transformationالـ Normalization الـ Normalization
595
00:47:48,810 --> 00:47:56,310
فعليًا أنا بده أروح أعمل Scaling لل Data Scaling
596
00:47:56,310 --> 00:47:59,710
زي ما قلنا 17 مليون أو الأرقام اللي عندي كبيرة
597
00:47:59,710 --> 00:48:03,130
فبده أروح أقللها أو بده أحطه ضمن Range معين وهنا
598
00:48:03,130 --> 00:48:07,910
بدنا عمليات حسابية وهذه هروح لها بتفاصيل الآن الـ
599
00:48:07,910 --> 00:48:11,330
Attribute Construction زي ما قلت أنا عندي تاريخ
600
00:48:11,330 --> 00:48:14,810
الميلادو تاريخ الميلاد مابديش ايه بديش إياه بدي
601
00:48:14,810 --> 00:48:20,030
أحط ال age أو بدي أبني الفئة العمرية و كل التفاصيل
602
00:48:20,030 --> 00:48:25,450
هاي كلها عبارة عن different transformation لل data
603
00:48:25,450 --> 00:48:31,030
كمان مرة transformation لا يعني إن أنا القيمة
604
00:48:31,030 --> 00:48:35,150
تغيرت الجوهر ال value موجود لكن الصورة اللي ظهرت
605
00:48:35,150 --> 00:48:37,950
عليها مختلفة
606
00:48:38,930 --> 00:48:44,390
طيب، الآن بدنا نروح على الـ Transformation اللي له
607
00:48:44,390 --> 00:48:47,190
علاقة بالـ Normalization لأن هنا في عندي
608
00:48:47,190 --> 00:48:50,770
Mathematical Forms لازم أفهمها كويس و أفهم النتيجة
609
00:48:50,770 --> 00:48:53,910
من كل واحدة فيهم كل الكلام اللي احنا قلناه سابقا
610
00:48:53,910 --> 00:48:57,380
جربنا ال smoothingوالـ aggregation بسيطة هي عبارة
611
00:48:57,380 --> 00:49:00,480
عن computation بسيطة ممكن تصير موجودة عندي و ال
612
00:49:00,480 --> 00:49:03,420
generalization مافيش عليها شغل كتير زي ما احنا
613
00:49:03,420 --> 00:49:07,080
شوفناه الآن ال attribute construction برضه عبارة
614
00:49:07,080 --> 00:49:09,920
عن attribute جديد بدي انبنى بناء على values موجودة
615
00:49:09,920 --> 00:49:15,360
مسبقا الان ال normalization هذه تقريبا أصعبهم و
616
00:49:15,360 --> 00:49:20,530
بدنا نشتغل علىبشكل جيد لكن لأ أخفيكوا أنا الصحيح
617
00:49:20,530 --> 00:49:23,810
اللي اليوم الصبح غيرت في ال slides فاللي طاب عليه
618
00:49:23,810 --> 00:49:26,670
slide بيغينه الله بس ال slides هدول بدهم تعديل
619
00:49:26,670 --> 00:49:32,910
ايوة
620
00:49:32,910 --> 00:49:37,370
الان كويس عند أحمد فروخي بيسأل سؤال مهم جدا يا
621
00:49:37,370 --> 00:49:45,030
شباب الان موضوع ال normalization اللي احنا أخدناه
622
00:49:45,030 --> 00:49:49,880
في ال databaseفي database واحد ايش كان الهدف منه
623
00:49:49,880 --> 00:49:52,960
انه
624
00:49:52,960 --> 00:49:55,980
نقل شويه بس عشان اجيب لكياب تعريفي وطابق الكلام
625
00:49:55,980 --> 00:49:59,260
اللي احنا بدنا يهان هو مش بعيد عنه هو عبارة عن كان
626
00:49:59,260 --> 00:50:05,080
هدفه نقل ال data analysis تبعتي ال initial data
627
00:50:05,080 --> 00:50:12,840
analysis الى other stage بتمنع التكرار، مصبوط؟بس
628
00:50:12,840 --> 00:50:16,020
لاحظ في الأول كانت form كانت عبارة عن single
629
00:50:16,020 --> 00:50:19,760
entity وفي ال form التاني في ال second normal form
630
00:50:19,760 --> 00:50:24,020
اضطرت اعمل partitioning لأكتر من entity عشان اعمل
631
00:50:24,020 --> 00:50:28,540
بينهماش أضمن عدم اتكرار ولا لأ مش هذا اللي صار ال
632
00:50:28,540 --> 00:50:33,200
transformation اللي صار هذا هو نفسه او ال
633
00:50:33,200 --> 00:50:35,620
normalization هو عبارة عن جزء من ال transformation
634
00:50:35,620 --> 00:50:39,160
جزء من التحول هل التحول كله مش ضروري هالكلام اللي
635
00:50:39,160 --> 00:50:41,680
احنا بيقوله فبالتالي مافيش تعرضات ما بين التانين
636
00:50:41,680 --> 00:50:46,170
يا أحمدالأن في الـ Normalization اللي هتتكلم عليها
637
00:50:46,170 --> 00:50:50,690
أو في الـ Scaling بالتحديد طبعا Normalization أو
638
00:50:50,690 --> 00:50:54,090
Scaling نفس المصطلحات في علم البيانات أو في الـ
639
00:50:54,090 --> 00:50:59,610
Data Mining بنتكلم إنه أنا بدي أروح أغير ال data
640
00:50:59,610 --> 00:51:07,630
range تبعتي و عادة عادة بقى اتوجه إن أغير ال range
641
00:51:07,630 --> 00:51:12,730
ل range أصغريعني بدل ما كانت الأرقام رواتب
642
00:51:12,730 --> 00:51:23,770
الموظفين من 17 .. او من .. من 1770 مليون لـ 370
643
00:51:23,770 --> 00:51:28,430
مليون اه
644
00:51:28,430 --> 00:51:33,690
بالليرة .. هذا الكلام وارد جدا مصبوط؟
645
00:51:33,690 --> 00:51:37,470
بدل ما هذا ال range بتروح اخليه يجع في range من
646
00:51:37,470 --> 00:51:46,730
واحدلعشرة مثلا أو بدي أخلي من واحد وسبعة من عشرة
647
00:51:46,730 --> 00:51:55,810
لتلاتة فاصلة سبعة الان في ال computation مين أسهل
648
00:51:55,810 --> 00:52:03,890
الرقم هذا ولا الرقم هذا المفروض
649
00:52:03,890 --> 00:52:04,930
الرقم الأصغر أسهل
650
00:52:08,520 --> 00:52:11,180
كمان مرة مفهوم الـ Normalization ان انا بدي اعمل
651
00:52:11,180 --> 00:52:14,780
scaling لل data او لل attributes اللي عندى هاي
652
00:52:14,780 --> 00:52:18,840
بحيث ان احطها في different range و عادة .. عادة
653
00:52:18,840 --> 00:52:24,140
اكثر من 95% او 99% من الشغل في ال hand انه انا بحط
654
00:52:24,140 --> 00:52:28,040
ال range ل range اصغر لكن هذا لا يمنع .. لا يمنع
655
00:52:28,040 --> 00:52:32,980
مطلقا انه افكر احطها في range اكبر منها و عادة يا
656
00:52:32,980 --> 00:52:37,840
جماعة الخير تخيل انه انا في عندى two attributes
657
00:52:46,020 --> 00:52:51,060
attribute one و attribute two ال values اللي عندي
658
00:52:51,060 --> 00:52:56,400
هان بتتراوح
659
00:52:56,400 --> 00:53:02,320
من الصفر للواحد و ال attribute التاني هذا من مية
660
00:53:02,320 --> 00:53:08,300
إلى الف خليك معاه سيبر
661
00:53:11,420 --> 00:53:14,460
عشان تفهم حاجتنا للـ Normalization أو للـ Scaling
662
00:53:14,460 --> 00:53:19,540
تخيل إنه أنا في عندي data set فيها two attributes
663
00:53:19,540 --> 00:53:24,740
الأول بتراوح القيم المتخلفة اللي في من صفر لواحد
664
00:53:24,740 --> 00:53:32,160
والتاني من مية لألف و جيت أنا قلتلك بدي task بسيطة
665
00:53:32,160 --> 00:53:39,700
جدا منك ترسمليهم على الـ 2D plane شو
666
00:53:39,700 --> 00:53:44,680
رأيك؟كيف ال scale تبعك اللي هتستخدمه في الرسم؟
667
00:53:44,680 --> 00:53:48,700
الان
668
00:53:48,700 --> 00:53:52,420
كمان مرة شو رايك هاي ال .. هاي ال two attributes و
669
00:53:52,420 --> 00:53:57,020
بدك ترسملياهم على two D plane مالهاش علاقة بال
670
00:53:57,020 --> 00:54:02,560
mining الآن، تمام؟ شو ال scale اللي بدك تستخدمه؟
671
00:54:02,560 --> 00:54:07,180
بدك تستخدم واحد، اتنين، تلاتة، اربعة، خمسة، ستة؟
672
00:54:07,180 --> 00:54:15,250
ولا واحد من عشرة؟ولّا مية؟ ممتاز إذا أنت أخدت
673
00:54:15,250 --> 00:54:18,790
المية إذا أخدت المية يعني الصحيحة التهان من صفر
674
00:54:18,790 --> 00:54:24,550
لمية كل ال values تبعة ال attribute هذا هتيجيك في
675
00:54:24,550 --> 00:54:27,950
النقطة هاي هتيجيك وكأنه معمود في النقطة هاي مش
676
00:54:27,950 --> 00:54:32,970
هيبينه ليش؟ لأنه ال range تبعك اللي إنت اعتمدت لها
677
00:54:32,970 --> 00:54:38,250
يا تناسب وإذا اعتمدت واحد من عشرة المية هتيجي هنا
678
00:54:40,520 --> 00:54:43,140
مصبوط؟ وبالتالي مافيش مجال الرسم inconsistent
679
00:54:43,140 --> 00:54:49,400
حيكون أو مش هتقدر ترسمهم من الآخر مافيش الحل ان
680
00:54:49,400 --> 00:54:54,020
بدي أعمل معيار للرسم بين الاتنين إما بدي أنزل هذا
681
00:54:54,020 --> 00:54:57,920
لنفس ال scale أو بدي أرفع هذا لنفس ال scale اللي
682
00:54:57,920 --> 00:55:05,780
موجود وعلى الحالتين صح مين الأسهل؟ أنزل قول بدي
683
00:55:05,780 --> 00:55:12,420
أجسمه علىعالمية بيصير هذا واحد و هذا عشرة لاحظ ال
684
00:55:12,420 --> 00:55:20,520
range لأ بقى يختلف صفر ل واحد و واحدة عشرة نوعا ما
685
00:55:20,520 --> 00:55:23,840
قريب لكن برضه ممكن انا ايش راح اساوي احط بنفس ال
686
00:55:23,840 --> 00:55:26,580
range بديش اجسم على عالمية انا اجسم على الف
687
00:55:33,500 --> 00:55:37,500
صار عند إيش؟ نفس ال scale exactly و أنا مافقدتش من
688
00:55:37,500 --> 00:55:42,320
قيمة البيانات ولا حاجة هذا الكلام نفسه .. نفسه
689
00:55:42,320 --> 00:55:45,440
بهمني لما يكون ال algorithm تبعي ال machine
690
00:55:45,440 --> 00:55:47,920
learning algorithm اللي بيشتغل في ال mining task
691
00:55:47,920 --> 00:55:51,900
تكون data set أو attribute ال values تبعته صغيرة
692
00:55:51,900 --> 00:55:56,480
جدا و ال attribute التاني ال value تبعته كبيرة جدا
693
00:55:57,410 --> 00:56:00,830
تبقى عندي mismatch في التعامل فأفضل حاجة ايش أسوي
694
00:56:00,830 --> 00:56:04,510
ان احاول اعمل normalization لكل ال data تكون كلها
695
00:56:04,510 --> 00:56:10,090
على range واحد فال scaling هذه او ال normalization
696
00:56:10,090 --> 00:56:14,810
هذه مهمة جدا بالنسبالنا ال
697
00:56:14,810 --> 00:56:18,390
z score او ال normalization او ال zero score
698
00:56:18,390 --> 00:56:22,510
normalization او زي ما بتسميها ال python standard
699
00:56:22,510 --> 00:56:25,550
scalar standard scalar
700
00:56:28,890 --> 00:56:32,550
في عند الـ Min Max Normalization أو Min Max Scalar
701
00:56:32,550 --> 00:56:37,450
وفي عند الـ Decimal Scalar أو Decimal Scaling أو
702
00:56:37,450 --> 00:56:43,030
Decimal Normalization نبدأ مع الـ Zero Score أو مع
703
00:56:43,030 --> 00:56:47,070
الـ Z Min أو الـ Z Score كلها نفس المصطلحات أو نفس
704
00:56:47,070 --> 00:56:51,590
العنصر Standard Scalar بتكلم على الـ Zero Min
705
00:56:51,590 --> 00:56:57,270
Normalization Zero Min Normalization مفهومها بكل
706
00:56:57,270 --> 00:57:03,450
بساطة يا جماعة الخيرانه احنا فعليا بحاجة طبعا عشان
707
00:57:03,450 --> 00:57:05,650
في مثال انا كتبته عند الطالبات المحاضرة الجابه
708
00:57:05,650 --> 00:57:08,470
اللي بدي اياه نفسه مافيش داعي ان اختار مثال جديد
709
00:57:08,470 --> 00:57:15,470
مفهومها انه بدي احول ال attribute هذا ل attribute
710
00:57:15,470 --> 00:57:19,110
او ل value احور ال data اللي فيه ل value مختلفة
711
00:57:19,110 --> 00:57:24,590
بحيث ان المتوسط الحسابي تبع ال new form يكون صفر
712
00:57:24,590 --> 00:57:30,160
عشان هيك اسمه z من ال zeroأو Z-Mean، Zero-Mean،
713
00:57:30,160 --> 00:57:34,460
Zero-Score أو Zero-Mean مفهومها إنه بعد ما أنا
714
00:57:34,460 --> 00:57:40,100
أحور الـAttribute أحور الـAttribute، بده يكون
715
00:57:40,100 --> 00:57:44,460
الـMean تبعه صفر ليش هذا الكلام مهم؟ لأنه كتير من
716
00:57:44,460 --> 00:57:47,420
العمليات الحسابية المرتبطة بالـ Machine Learning
717
00:57:47,420 --> 00:57:50,700
Algorithm لها علاقة بالـMean والـStandard
718
00:57:50,700 --> 00:57:56,610
Deviation فإذا أنا قدرت أحول الـMean لـ0فبتصير
719
00:57:56,610 --> 00:58:03,110
العمليات الحسابية تبعتي أسهل ما يمكن لو أنت بقيت
720
00:58:03,110 --> 00:58:06,810
تضرب بصفر خلاص بس ال term اللي أنا جدت فيه term
721
00:58:06,810 --> 00:58:10,370
صفر خلصنا لو بدي أجمع صفر مع أن مافيش عندي تغيير
722
00:58:10,370 --> 00:58:14,770
وهذا هو الهدف الأساسي من ال normalization هنا إنه
723
00:58:14,770 --> 00:58:17,970
أنا عامة في ال transformation عمالي بحاول أبدأ
724
00:58:17,970 --> 00:58:22,070
أقلل من ال cost أو ال computational cost اللي ممكن
725
00:58:22,070 --> 00:58:27,930
تصير عنديفالـ Zero mean أو الـ Z-score هدفها أنه
726
00:58:27,930 --> 00:58:31,890
للـ feature هذا تكون قيمة الـ mean المتوسط الحسابي
727
00:58:31,890 --> 00:58:38,670
صفر و ال variance أو الانحراف المعياري تبعته جداش
728
00:58:38,670 --> 00:58:46,410
واحد عبر المعادلة اللي موجودة عندنا هنا طبعا ميزة
729
00:58:46,410 --> 00:58:50,370
ال scaling هذا انه مافيش minimum و مافيش maximum
730
00:58:50,370 --> 00:58:54,480
لكن بتروح تتطبق حسب القانونالقيمة الجديدة اللي هي
731
00:58:54,480 --> 00:59:00,840
الـ Z تساوي القيمة السابقة X ناقص المتوسط الحسابي
732
00:59:00,840 --> 00:59:06,660
على الانحراف المعياري تبعت ال value اللي موجودة
733
00:59:06,660 --> 00:59:12,240
عندها عشان تظهر الصورة الأرقام اللي عندي أنا عشرة
734
00:59:12,240 --> 00:59:18,000
خمس طعش عشرة خمس طعش عشرين
735
00:59:24,250 --> 00:59:27,910
هذه الـ A original الـ attribute O الـ attribute
736
00:59:27,910 --> 00:59:33,030
الأصلي ال values اللي فيه ال values اللي فيه تمام
737
00:59:33,030 --> 00:59:38,590
هايهم خمس قيم عشان أقدر أشتغل مع هذا أو أطبق عليه
738
00:59:38,590 --> 00:59:43,910
ال Z score شو بدي أساوي؟ بدي أحسب المتوسط الحسابي
739
00:59:43,910 --> 00:59:50,250
هاي المتوسط الحسابي يساوي المجموع على العدد عشرة
740
00:59:50,250 --> 00:59:57,500
عشرين و بتهيألي فيه كمان واحدةهم خمس قيم خمس طعش
741
00:59:57,500 --> 01:00:04,980
عشرين تمام سبعين على خمسة كدهش الشباب سبعين على
742
01:00:04,980 --> 01:00:12,020
خمسة يا
743
01:00:12,020 --> 01:00:17,640
عيني عليكم عشان هيك يا حبابنا تعمل حسابك تعمل
744
01:00:17,640 --> 01:00:21,700
حسابك تجيب ال calculator تبعتك انا بالنسبة لي
745
01:00:25,870 --> 01:00:29,150
هيها اه مش هسمحلك تستخدم الجوال ولا في الامتحان
746
01:00:29,150 --> 01:00:32,830
هسمحلك تستخدم الجوال فانت ما شاء الله يعني لسه عن
747
01:00:32,830 --> 01:00:35,470
بارح طالع من الثانوية العامة او إذا في عندك حدا
748
01:00:35,470 --> 01:00:41,010
فهي .. هي فهي إلك إذا في حد أخدها من وراك تلفها
749
01:00:41,010 --> 01:00:47,710
منه ضروري من اليوم و طالع في عندنا حساب لأ حساب
750
01:00:47,710 --> 01:00:51,230
عشان ما أخوف cashلأن هاي و ما شاء الله عليك انت في
751
01:00:51,230 --> 01:00:56,110
القسمة الـ 70 على 5 أثبتتي اللي بالدليل قاطع إنك
752
01:00:56,110 --> 01:01:05,030
ناجح ان شاء الله طيب، الآن خلاص حسبت ال main الآن
753
01:01:05,030 --> 01:01:08,710
إيش بقول ليه؟ الانحراف المعياري أو ال sigma تساوي
754
01:01:08,710 --> 01:01:14,110
الجذر التربيعي للفروقات ما بين ال main على العدد
755
01:01:26,700 --> 01:01:32,460
عشرة أربعة عشر ناقص عشرة تربيع أربعة عشر ناقص عشرة
756
01:01:32,460 --> 01:01:36,680
عشرة تربيع أربعة عشر ناقص عشرين تربيع أربعة عشر
757
01:01:36,680 --> 01:01:42,880
ناقص عشرين تربيع أربعة عشر ناقص عشرين تربيع أربعة
758
01:01:42,880 --> 01:01:43,720
عشر ناقص عشرين تربيع أربعة عشر ناقص عشرين تربيع
759
01:01:43,720 --> 01:01:44,240
أربعة عشر ناقص عشرين تربيع أربعة عشر ناقص عشرين
760
01:01:44,240 --> 01:01:49,650
تربيع أربعة عشر ناقص عشرين تربيع أربعة عشر ناق16 1
761
01:01:49,650 --> 01:02:04,310
16 1 36 مصبوط انا حسبت المربعات الان 16 و 16 32 و
762
01:02:04,310 --> 01:02:16,360
32 و 2 34 و 36 70 الان ال sigmaتساوي الجذر
763
01:02:16,360 --> 01:02:22,900
التربيعي لـ 70 على 5 اللي هي جذر الـ 14 اللي هي
764
01:02:22,900 --> 01:02:29,840
تقريبا قداش تلات
765
01:02:29,840 --> 01:02:34,060
أو كسر، صح؟
766
01:02:34,060 --> 01:02:37,400
ما هو لما أنت تكتب لتنين جذر مش عارف قداش مش هتحصل
767
01:02:37,400 --> 01:02:43,020
لنتيجة تلاتة
768
01:02:43,020 --> 01:02:50,630
pointأربعة و سبعين جذر
769
01:02:50,630 --> 01:02:57,510
الاربعتاش هذا بنسميه الانحراف المعياري لل data set
770
01:02:57,510 --> 01:03:03,290
او لل attribute اللي عندى sigma لسه احنا مخلصناش
771
01:03:03,290 --> 01:03:08,370
انا كل اللي بسوته جبت المعاملات بتاعة المعادلة هاي
772
01:03:08,370 --> 01:03:13,740
جبت ال mu جبت ال sigmaهلجت بدي أجيب Z زد لمين يا
773
01:03:13,740 --> 01:03:18,260
جماعة الخير لكل قيمة من هدول لكل قيمة من هدول احنا
774
01:03:18,260 --> 01:03:27,880
خلصنا هذا الان بقدر أمسحه ال
775
01:03:27,880 --> 01:03:32,420
attribute new قيمة
776
01:03:32,420 --> 01:03:40,550
القيمة الجديدة تساوي X ناقص ميو علىتلاتة يعني بين
777
01:03:40,550 --> 01:03:45,910
جثين هتكون عشرة ناقص أربعة تعش على تلاتة فاصلة
778
01:03:45,910 --> 01:03:52,530
أربعة وسبعين ولا كيف بده يكون في الآخر المتوسط
779
01:03:52,530 --> 01:03:57,970
الحسابي صفر لازم تكون قيم موجبة وقيم سالبة لأنه في
780
01:03:57,970 --> 01:04:02,390
الآخر صفر على أي شيء العدد مستحيل يكون صفر فلازم
781
01:04:02,390 --> 01:04:06,530
البسطي يطلع معاك صفر مجموع القيم فبتطلع هذه سالب
782
01:04:06,530 --> 01:04:14,240
بالنسبة للأولىأربعة تقسيم تلاتة فاصلة أربعة وسبعين
783
01:04:14,240 --> 01:04:17,340
سالب
784
01:04:17,340 --> 01:04:22,440
واحد point zero سبعة هم ال roundation للرقمين
785
01:04:22,440 --> 01:04:25,700
هتكون
786
01:04:25,700 --> 01:04:31,300
عندي عشرة ناقص او عفوا خمس طعش ناقص اربعة طعش على
787
01:04:31,300 --> 01:04:37,040
تلاتة اربعة وسبعين اعتمد
788
01:04:37,040 --> 01:04:38,900
يا أبو حاسم ولا في شك في الكلام
789
01:04:43,490 --> 01:04:49,430
26% غلط لأنه بدنا نعمل roundation عندك 6 أو 7 يا
790
01:04:49,430 --> 01:04:56,250
باشا عشان أضمن تصفر معايا المسألة الآن عشرة نفس
791
01:04:56,250 --> 01:05:00,890
القيمة اللي فوق 1
792
01:05:00,890 --> 01:05:07,610
.0715
793
01:05:07,610 --> 01:05:11,990
.27 الآن
794
01:05:14,240 --> 01:05:25,220
1.6 انا بتذكرها هي صحيحة 1.6 تمام؟ الان متوسط
795
01:05:25,220 --> 01:05:32,460
الحساب الجديد يساوي اجمع
796
01:05:32,460 --> 01:05:40,840
العناصر هدول على عددهم عددهم خمسة سالب
797
01:05:40,840 --> 01:05:41,240
واحد
798
01:05:44,090 --> 01:05:52,350
لان انت متراهلش انت بتجمع القمتين هدول وبالتالي
799
01:05:52,350 --> 01:05:59,410
ال mean تبعتي قداش صارت صفر لازم يطلع صفر اللي مش
800
01:05:59,410 --> 01:06:04,250
مصدق يجمعهم يا شباب مش مشكلة عندي تمام فال mean
801
01:06:04,250 --> 01:06:10,950
صفر الانحراف المعياري الجديد يساوي الجذر التربيعي
802
01:06:10,950 --> 01:06:18,430
لأالفروقات هدول او القيام هدول تربيع الفروق مع ال
803
01:06:18,430 --> 01:06:27,890
mean ال mean صفر فتربيع القيام هذه 1.07 زائد 0.27
804
01:06:27,890 --> 01:06:40,490
زائد 1.7 تربيع زائد 0.27 تربيع زائد 1.6 تربيع هدول
805
01:06:40,490 --> 01:06:43,330
مجموحهم خمسة على خمسة
806
01:06:48,310 --> 01:06:51,770
واحد اه لازم يطلع واحد لو ما طلعش واحد مانتوا في
807
01:06:51,770 --> 01:06:57,470
عندك مشكلة لو ما طلعش واحد في عندك مشكلة في الحساب
808
01:06:57,470 --> 01:07:02,890
ممكن الأرقام مشكلة لا يا باشا الأرقام إيش ما كانت
809
01:07:02,890 --> 01:07:07,950
إذا تطبق عليها ال Z score لازم إنها تجي يطلع ال
810
01:07:07,950 --> 01:07:11,030
main صفر و ال standard deviation واحد
811
01:07:13,890 --> 01:07:18,810
تمام؟ تمام إيش
812
01:07:18,810 --> 01:07:27,210
استفدت؟ الآن أنا عملت scaling .. scaling لمين؟ لل
813
01:07:27,210 --> 01:07:32,090
A الأصلية اللي موجودة عندي بقيم جديدة عملت
814
01:07:32,090 --> 01:07:36,970
transformation مظبوط؟ القيمة هذه تمثل العشرة وال
815
01:07:36,970 --> 01:07:41,630
27 تمثل .. ال 27 من 100 تمثل 15يعني حطيتها في
816
01:07:41,630 --> 01:07:45,130
Range جديد الـ Range الجديد هذا ما فقدش قيمته
817
01:07:45,130 --> 01:07:52,390
مطلقا لكن كان فيه لميزة قال لي إن المتوسط الحسابي
818
01:07:52,390 --> 01:07:57,610
تبع القيم هدول صفر والانحراف المياري واحد كتير من
819
01:07:57,610 --> 01:08:00,370
ال machine learning algorithm جامعة الخير بتنبني
820
01:08:00,370 --> 01:08:05,390
على حسبة ال main والانحراف المياري فلما أنا بأضمن
821
01:08:05,390 --> 01:08:09,320
ال main صفرمعناته كتير من العمليات او من ال terms
822
01:08:09,320 --> 01:08:12,800
هعملها neglect هاختصرها في ال computation ولا لأ
823
01:08:12,800 --> 01:08:16,400
لما بتكون العمليات ضرب و بحصل على واحد في ال
824
01:08:16,400 --> 01:08:21,140
standard deviation هذا الكلام كله بيخدمني في تسريع
825
01:08:21,140 --> 01:08:23,980
عملية ال learning اللي هتصير عند ال data mining او
826
01:08:23,980 --> 01:08:27,940
في مرحلة ال mining او ال data mining tasks هالكلام
827
01:08:27,940 --> 01:08:32,920
هذا مطلوب من ناحية عملي من ناحية عملي ال standard
828
01:08:32,920 --> 01:08:37,340
scalar موجودة في ال python as a functionتستدعيها و
829
01:08:37,340 --> 01:08:39,800
بتقوله تديها اسم ال attribute و بتعمل generate ل
830
01:08:39,800 --> 01:08:48,540
attribute بمباشرة بس لازم تحفظ و تفهم اش اللي بصير
831
01:08:48,540 --> 01:08:52,240
لأنه بكل بساطة لاحقا ممكن اديك sequence من خمس
832
01:08:52,240 --> 01:08:55,960
عناصر زي هيك و اقولك روح انا بدي نعمل
833
01:08:55,960 --> 01:08:58,900
transformation لل data set هذه بحيث انك تتناسب مع
834
01:08:58,900 --> 01:09:02,500
ال task الفلانية بتطبيق ال algorithm الفلاني
835
01:09:06,680 --> 01:09:11,320
أيوة سؤال مهم أحمد فاروخ بيقول جديش ال scale مافيش
836
01:09:11,320 --> 01:09:15,160
scale مافيش range و هذا الكلام قلناه ثابت مافيش
837
01:09:15,160 --> 01:09:20,740
عندي minimum و maximum values ما بعرفهمش لكن بما
838
01:09:20,740 --> 01:09:24,540
أنه العشرة هي أصغر قيمة عندي و ال data 6 أنا قادر
839
01:09:24,540 --> 01:09:31,220
أمسكها أصغر قيمة فهذه كانت ال minimum و ال maximum
840
01:09:31,220 --> 01:09:40,300
20 فهذه 61.6%هي ال maximum بس هي ال range تبعتي هي
841
01:09:40,300 --> 01:09:44,900
ال range اللي موجودة عندي الآن على غرار الكلام هذا
842
01:09:44,900 --> 01:09:53,900
في عند ال min max طبعا ال robust عشان نخلص منها ال
843
01:09:53,900 --> 01:09:58,440
robust scalar فكرته بكل بساطة انه بيقولك يا عم إذا
844
01:09:58,440 --> 01:10:01,580
أنا كان في عندي outlier point او في عندي noisy
845
01:10:01,580 --> 01:10:06,000
pointفضمن ال range هذا و انا اعتمدت على ال mean
846
01:10:06,000 --> 01:10:11,720
فهتشد ال mean باتجاه بعيد بمعنى اخر لو كانت
847
01:10:11,720 --> 01:10:18,740
العشرين هذه 200 او ناقص 20 شو بيصير في ال mean
848
01:10:18,740 --> 01:10:24,150
اللي عندى؟هيتغير وبالتالي صار فيه bias باتجاه الـ
849
01:10:24,150 --> 01:10:28,330
outlier باتجاه ال noise data عشان يتجنب ال noise
850
01:10:28,330 --> 01:10:32,370
data ال robust scalar هذا بيروح بيعتمد على ال
851
01:10:32,370 --> 01:10:39,230
median و ال quartiles ايش ال median؟ ايش ال
852
01:10:39,230 --> 01:10:44,370
median؟ الوسيط ال quartiles القيم تبعت الأرباع
853
01:10:44,370 --> 01:10:48,400
تبعت العناصر اللي موجودة عندىوبهيك هو بتجنب تأثير
854
01:10:48,400 --> 01:10:53,580
ال noise attributes لتظهر أو ال noise value لتظهر
855
01:10:53,580 --> 01:10:53,860
عنده