|
1 |
|
00:00:05,080 --> 00:00:07,260 |
|
بسم الله والحمد لله والصلاة والسلام على رسول الله |
|
|
|
2 |
|
00:00:07,260 --> 00:00:10,540 |
|
اليوم ان شاء الله تعالى هنكمل في موضوع ال data |
|
|
|
3 |
|
00:00:10,540 --> 00:00:13,800 |
|
cleaning كنا المحاضرة الماضية اللي اشتغلنا في |
|
|
|
4 |
|
00:00:13,800 --> 00:00:19,820 |
|
موضوع ال missing لل data و اليوم ان شاء الله تعالى |
|
|
|
5 |
|
00:00:19,820 --> 00:00:25,720 |
|
هنشتغل في موضوع ال noisy data الان في ال noisy |
|
|
|
6 |
|
00:00:25,720 --> 00:00:29,060 |
|
data قلنا احنا ال noise data مفهومها ان انا في |
|
|
|
7 |
|
00:00:29,060 --> 00:00:33,890 |
|
عندى خطأ لسببerror معين الـ error ده ممكن يكون |
|
|
|
8 |
|
00:00:33,890 --> 00:00:37,950 |
|
الناتج عنه من human entry أو فيه fault في ال |
|
|
|
9 |
|
00:00:37,950 --> 00:00:41,190 |
|
instrument اللي أنا جمعت من خلالها ال data وقولنا |
|
|
|
10 |
|
00:00:41,190 --> 00:00:44,430 |
|
من أشهر الأمثلة اللي أنا بتكلم عليها على ال noise |
|
|
|
11 |
|
00:00:44,430 --> 00:00:50,130 |
|
data الراتب يكون بالسالب بغض النظر عن كانت إيش |
|
|
|
12 |
|
00:00:50,130 --> 00:00:53,890 |
|
الأخطاء إيش الشغلات اللي أنا فعليا محتاجها عشان |
|
|
|
13 |
|
00:00:55,040 --> 00:00:59,320 |
|
أعرض أو أتعامل مع ال data set اللي موجودة عندنا |
|
|
|
14 |
|
00:00:59,320 --> 00:01:01,900 |
|
كيف بدي أعمل لها handling من أشهر الطرق اللي |
|
|
|
15 |
|
00:01:01,900 --> 00:01:05,680 |
|
موجودة عندنا موضوع ال pinning وما المقصود في ال |
|
|
|
16 |
|
00:01:05,680 --> 00:01:10,520 |
|
pinning أنه أنا فعليا بدي أروح أجسم ال data set |
|
|
|
17 |
|
00:01:10,520 --> 00:01:17,850 |
|
تبعتي لمجموعات وكل مجموعة هتمثل سيبني يا عمركل |
|
|
|
18 |
|
00:01:17,850 --> 00:01:21,870 |
|
مجموعة هتتمثل بقيمة معينة القيمة دي ممكن تكون ال |
|
|
|
19 |
|
00:01:21,870 --> 00:01:25,050 |
|
main ممكن تكون ال median او ممكن تكون بقيمتين عشان |
|
|
|
20 |
|
00:01:25,050 --> 00:01:28,150 |
|
امثل المجموعة لو اعتمدت على ال boundaries لكن في |
|
|
|
21 |
|
00:01:28,150 --> 00:01:32,630 |
|
شغل مهم جدا مع ال binning اللي هي الموضوع انه انا |
|
|
|
22 |
|
00:01:32,630 --> 00:01:35,810 |
|
فعليا ال partition تبع ال bin ال partition تبعتي |
|
|
|
23 |
|
00:01:35,810 --> 00:01:39,770 |
|
هاي او ال bin جداش حجمها بدو يكون هل هتكلم على |
|
|
|
24 |
|
00:01:39,770 --> 00:01:44,980 |
|
equal frequencyيعني فعلياً كل ال bins هيكونوا نفس |
|
|
|
25 |
|
00:01:44,980 --> 00:01:50,480 |
|
العدد ولا هتكلم على ال equal depth باجب ال equal |
|
|
|
26 |
|
00:01:50,480 --> 00:01:54,120 |
|
depth انا باجب فكرتها انه انا اجسم المجموعات تبع |
|
|
|
27 |
|
00:01:54,120 --> 00:01:57,800 |
|
ال intervals اجي اقول من عشرة مثلا من واحد لعشرة |
|
|
|
28 |
|
00:01:57,800 --> 00:02:02,860 |
|
ال interval الأولى من عشرة عفوا من 11 لعشرين ال |
|
|
|
29 |
|
00:02:02,860 --> 00:02:06,260 |
|
interval التانية من واحد وعشرين لتلاتين ال |
|
|
|
30 |
|
00:02:06,260 --> 00:02:10,360 |
|
interval التالتةبغض النظر عن الأعداد اللي بدها |
|
|
|
31 |
|
00:02:10,360 --> 00:02:14,160 |
|
تكون في كل interval هذي بتسميها احنا ايش؟ equal |
|
|
|
32 |
|
00:02:14,160 --> 00:02:18,060 |
|
depth بينها بقى ال equal frequency ان كل partition |
|
|
|
33 |
|
00:02:18,060 --> 00:02:23,760 |
|
في نفس العدد من ال elements لكن عشان فعليا اطبق |
|
|
|
34 |
|
00:02:23,760 --> 00:02:29,740 |
|
انا ال pinning لازم في البداية اعمل sort لل data |
|
|
|
35 |
|
00:02:29,740 --> 00:02:36,350 |
|
لو ماعملتش sort كل شغلك غلط على الفاضيلكن في موضوع |
|
|
|
36 |
|
00:02:36,350 --> 00:02:40,370 |
|
الـ Equal Depth ممكن انا اشتغل اذا انا فاهم ال |
|
|
|
37 |
|
00:02:40,370 --> 00:02:44,830 |
|
minimum و ال maximum تبعوني قداش بقدر اعمل استخدام |
|
|
|
38 |
|
00:02:44,830 --> 00:02:48,210 |
|
و عارف ايش ال range اللي ممكن تخدمني ال intervals |
|
|
|
39 |
|
00:02:48,210 --> 00:02:50,430 |
|
ممكن اشتغل لانه في الآخر بدي أصبح ال |
|
|
|
40 |
|
00:02:50,430 --> 00:02:53,410 |
|
representation لكل رقم بال interval اللي موجودة |
|
|
|
41 |
|
00:02:53,410 --> 00:02:57,890 |
|
عندها تعالوا نشوفمع بعض ال binning الان العملية |
|
|
|
42 |
|
00:02:57,890 --> 00:02:59,370 |
|
التانية اللى هتكلم عليها ال regression و ال |
|
|
|
43 |
|
00:02:59,370 --> 00:03:02,030 |
|
clustering بعدين كنا احنا بدنا مع ال binning و |
|
|
|
44 |
|
00:03:02,030 --> 00:03:05,570 |
|
الرقم واحد كنا بدنا نعمل sort و بالمثال هذا هشتغل |
|
|
|
45 |
|
00:03:05,570 --> 00:03:09,510 |
|
على equal frequency equal frequency قاللي انا الان |
|
|
|
46 |
|
00:03:09,510 --> 00:03:10,990 |
|
بدي اشتغل على three bins |
|
|
|
47 |
|
00:03:19,150 --> 00:03:22,830 |
|
الان يا جماعة الخير لو كان في عندي plus او minus |
|
|
|
48 |
|
00:03:22,830 --> 00:03:26,890 |
|
one في ال interval يعني لو كانت ال interval تبعتي |
|
|
|
49 |
|
00:03:26,890 --> 00:03:34,150 |
|
هذه 13 رقم 27 مش big deal او مش مشكلة ان الرقم |
|
|
|
50 |
|
00:03:34,150 --> 00:03:38,300 |
|
الأخير هذا ينضاف على ال penالاخيرة طيب لو كان في |
|
|
|
51 |
|
00:03:38,300 --> 00:03:43,000 |
|
عندي تلت أرقام مخص بن مخص رقم واحد ماعندي مشكلة |
|
|
|
52 |
|
00:03:43,000 --> 00:03:47,360 |
|
تكون البن الأخيرة بأقل من digit خصوصا لما احنا |
|
|
|
53 |
|
00:03:47,360 --> 00:03:50,720 |
|
بنتكلم انا بدي اعمل handling ل attribute ال |
|
|
|
54 |
|
00:03:50,720 --> 00:03:53,740 |
|
attribute مش اتناشر value اللي فيه تلتاشر ممكن |
|
|
|
55 |
|
00:03:53,740 --> 00:03:57,100 |
|
يكون فيه تلتاشر الف value فلما فعليا اجي اقول |
|
|
|
56 |
|
00:03:57,100 --> 00:04:01,980 |
|
والله بدي خصه عندي مائة قيمةمن الف مش قضية لسه ما |
|
|
|
57 |
|
00:04:01,980 --> 00:04:06,200 |
|
زال عندي فيه 900 قيمة موجودات وبقالهم وزلهم |
|
|
|
58 |
|
00:04:06,200 --> 00:04:10,160 |
|
وبأثروا بشكل كويس فالخطوة رقم واحد بعد ما انا اعمل |
|
|
|
59 |
|
00:04:10,160 --> 00:04:15,140 |
|
sort اجسم المجموعات اعملت sort بدي equal frequency |
|
|
|
60 |
|
00:04:15,140 --> 00:04:23,160 |
|
اربعة هاي واحدة تنتين تلاتة الخطوة رقم واحدSort |
|
|
|
61 |
|
00:04:23,160 --> 00:04:25,860 |
|
الخطوة الرقم اتنين تجسيمهم او ال partitioning |
|
|
|
62 |
|
00:04:25,860 --> 00:04:32,120 |
|
تبعتهم لمجموعات الآن بعد هيك القيام هذه مين فيها |
|
|
|
63 |
|
00:04:32,120 --> 00:04:36,700 |
|
ال noise انا فعليا مش عارف هل هي الأربعة هي ال |
|
|
|
64 |
|
00:04:36,700 --> 00:04:39,680 |
|
noise ولا الأربعة و تلاتين هي ال noise انا فعليا |
|
|
|
65 |
|
00:04:39,680 --> 00:04:43,580 |
|
مش عارفها لكن هذه الأربعة او الأربعة و تلاتين انا |
|
|
|
66 |
|
00:04:43,580 --> 00:04:49,120 |
|
فعليا هخلص منها من خلال استبدالها بإيش مع كل بن |
|
|
|
67 |
|
00:04:49,120 --> 00:04:53,360 |
|
الآن ممكن استبدلها بالقيامة ال meanأو الـ Median |
|
|
|
68 |
|
00:04:53,360 --> 00:04:58,920 |
|
أو الـ Value .. ال .. عفوا القيم ال boundaries لو |
|
|
|
69 |
|
00:04:58,920 --> 00:05:03,160 |
|
أنا بدأ اعتمد على ال meme هضطر اجمع تمانية زائد |
|
|
|
70 |
|
00:05:03,160 --> 00:05:06,140 |
|
اربعة .. اربعة زائد تمانية زائد تسعة زائد خمستاشع |
|
|
|
71 |
|
00:05:06,140 --> 00:05:10,640 |
|
على اربعة واروح استبدلهم قلعت تسعة بتالي المجموعة |
|
|
|
72 |
|
00:05:10,640 --> 00:05:15,640 |
|
الاولى كل element فيها بده يصير تسعة كل element |
|
|
|
73 |
|
00:05:15,640 --> 00:05:18,900 |
|
فيها بده يصير تسعة المجموعة التانية المتوسطة |
|
|
|
74 |
|
00:05:18,900 --> 00:05:22,670 |
|
الحسابة تبعها كانت تلاتة وعشرين ومن ثم ال ..و |
|
|
|
75 |
|
00:05:22,670 --> 00:05:26,050 |
|
هتكون تلاتة و عشرين والاخيرة تسعة و عشرين و هكذا |
|
|
|
76 |
|
00:05:26,050 --> 00:05:31,470 |
|
لو انا بدي اشتغل على ال boundaries مفهوم ال |
|
|
|
77 |
|
00:05:31,470 --> 00:05:36,270 |
|
boundaries هيهم الأربعة والخمستاش هدولة لل بن |
|
|
|
78 |
|
00:05:36,270 --> 00:05:41,130 |
|
الأول او لل partition الأول الآن الأربعة والخمستاش |
|
|
|
79 |
|
00:05:41,130 --> 00:05:44,550 |
|
هدولة هتكون ثابتات لاحظ في ال main و ال median انا |
|
|
|
80 |
|
00:05:44,550 --> 00:05:48,010 |
|
كل ال partitionالـ values تبعت ال partition |
|
|
|
81 |
|
00:05:48,010 --> 00:05:51,970 |
|
بستبدلها بقيمة واحدة، مظبوط؟ اللي كانت بال mean أو |
|
|
|
82 |
|
00:05:51,970 --> 00:05:56,190 |
|
ال median التسعة استبدلت كل القيم لكن مع ال part |
|
|
|
83 |
|
00:05:56,190 --> 00:05:59,570 |
|
.. مع ال boundaries point بصير .. بتكلم على لأ ال |
|
|
|
84 |
|
00:05:59,570 --> 00:06:04,830 |
|
partition الواحد في قيمتين ال minimum و ال maximum |
|
|
|
85 |
|
00:06:04,830 --> 00:06:10,090 |
|
الآن باجي بدور على القيم اللي في النص تمانية أقرب |
|
|
|
86 |
|
00:06:10,090 --> 00:06:14,240 |
|
لأي boundaryوبعملها replacement لل boundary الأقرب |
|
|
|
87 |
|
00:06:14,240 --> 00:06:21,660 |
|
8 أقرب لل 4 أكيد ومن ثم replace 4 9 لل 4 لأن الفرق |
|
|
|
88 |
|
00:06:21,660 --> 00:06:26,380 |
|
بينها و بين 4 و 5 و 15 و 6 فهي أقرب لل 4 وبالتالي |
|
|
|
89 |
|
00:06:26,380 --> 00:06:31,380 |
|
بعملها replacement بال 4 الان نفس ال 21 و 21 و 24 |
|
|
|
90 |
|
00:06:31,380 --> 00:06:36,120 |
|
يصير 25 هنا أقرب و هكذا تمام؟ هذا مفهوم ال |
|
|
|
91 |
|
00:06:36,120 --> 00:06:40,200 |
|
boundaries لكن تعالى نشوف مثالنبدأ فيه من البداية |
|
|
|
92 |
|
00:06:40,200 --> 00:06:44,240 |
|
خالص هنشتغل فيه كتالي حاجة أقول أنا في عندي مثلا |
|
|
|
93 |
|
00:06:44,240 --> 00:06:58,400 |
|
القيم بسيطة سبعة تلاتة تمانية سالب واحد اتنين خمسة |
|
|
|
94 |
|
00:06:58,400 --> 00:07:09,880 |
|
عشرة تسعة ستة اربعة اتناشروهي كمان مرة تلاتة مش |
|
|
|
95 |
|
00:07:09,880 --> 00:07:14,420 |
|
هتفرج معايا الان |
|
|
|
96 |
|
00:07:14,420 --> 00:07:19,160 |
|
انا بدي اشتغل او بدي اعمل partition او بدي استخدم |
|
|
|
97 |
|
00:07:19,160 --> 00:07:23,460 |
|
two partitions الخطوة |
|
|
|
98 |
|
00:07:23,460 --> 00:07:26,200 |
|
رقم واحد طبعا كمان مرة بيتكلم عن ال equal |
|
|
|
99 |
|
00:07:26,200 --> 00:07:31,700 |
|
frequency equal frequency هشتغل الان اول خطوة رقم |
|
|
|
100 |
|
00:07:31,700 --> 00:07:44,830 |
|
واحد sort هي سالب واحدتنين تلاتة كمان تلاتة عندي |
|
|
|
101 |
|
00:07:44,830 --> 00:07:57,970 |
|
أربعة خمسة ستة سبعة تمانية تسعة عشرة معاشر هيك ال |
|
|
|
102 |
|
00:07:57,970 --> 00:08:01,990 |
|
data صارت sortedأنا بتكلم على equal frequency |
|
|
|
103 |
|
00:08:01,990 --> 00:08:04,210 |
|
equal frequency على two partitions يعني أنا بدي |
|
|
|
104 |
|
00:08:04,210 --> 00:08:12,630 |
|
أعدهم من النص 1,2,3,4,5,6,7,8,9,10,11,12,6 مافي |
|
|
|
105 |
|
00:08:12,630 --> 00:08:17,290 |
|
عندي مشكلة 1,2,3,4,5,6 هي ال partition أو البن |
|
|
|
106 |
|
00:08:17,290 --> 00:08:25,930 |
|
الأول وهي البن الثاني الآن بال mean لو أنا بدي |
|
|
|
107 |
|
00:08:25,930 --> 00:08:30,610 |
|
أشتغل بال mean بدي .. مافيش عندي مشكلة بدي أجمعبدي |
|
|
|
108 |
|
00:08:30,610 --> 00:08:34,850 |
|
أجمع العناصر و أجسمهم على عددهم على 6، مصبوط؟ بقى |
|
|
|
109 |
|
00:08:34,850 --> 00:08:38,930 |
|
بالـ Median القيمة اللي بتيجي في النص بما أن |
|
|
|
110 |
|
00:08:38,930 --> 00:08:42,570 |
|
الأعداد اللي عندي هان أعداد عدد العناصر أو عدد |
|
|
|
111 |
|
00:08:42,570 --> 00:08:46,770 |
|
البن زوجي مافيش قيمة في النص، فهجيب الـ Average |
|
|
|
112 |
|
00:08:46,770 --> 00:08:51,410 |
|
تبعت القيمتين اللي في النص تلاتة و تلاتة، بقى أنا |
|
|
|
113 |
|
00:08:51,410 --> 00:08:55,490 |
|
هتكلم بالـ Median تلاتة |
|
|
|
114 |
|
00:08:55,490 --> 00:09:00,830 |
|
و تلاتة ستة على اتنين، تلاتةمعناته الآن كل البن |
|
|
|
115 |
|
00:09:00,830 --> 00:09:05,450 |
|
هذه بدون يعملها replacement بمين؟ بالتلاتة .. |
|
|
|
116 |
|
00:09:05,450 --> 00:09:07,710 |
|
تلاتة .. تلاتة .. تلاتة .. تلاتة .. تلاتة .. تلاتة |
|
|
|
117 |
|
00:09:07,710 --> 00:09:07,950 |
|
.. تلاتة .. تلاتة .. تلاتة .. تلاتة .. تلاتة .. |
|
|
|
118 |
|
00:09:07,950 --> 00:09:08,030 |
|
تلاتة .. تلاتة .. تلاتة .. تلاتة .. تلاتة .. تلاتة |
|
|
|
119 |
|
00:09:08,030 --> 00:09:08,990 |
|
.. تلاتة .. تلاتة .. تلاتة .. تلاتة .. تلاتة .. |
|
|
|
120 |
|
00:09:08,990 --> 00:09:10,670 |
|
تلاتة .. تلاتة .. تلاتة .. تلاتة .. تلاتة .. تلاتة |
|
|
|
121 |
|
00:09:10,670 --> 00:09:11,390 |
|
.. تلاتة .. تلاتة .. تلاتة .. تلاتة .. تلاتة .. |
|
|
|
122 |
|
00:09:11,390 --> 00:09:19,130 |
|
تلاتة .. تلاتة .. تلاتة .. تلاتة .. |
|
|
|
123 |
|
00:09:19,130 --> 00:09:25,690 |
|
تلاتة .. تلاتة .. تل |
|
|
|
124 |
|
00:09:26,510 --> 00:09:30,190 |
|
أقول لك شغلاء حتى لو كانت لو كانت ال value تبعتي |
|
|
|
125 |
|
00:09:30,190 --> 00:09:36,070 |
|
هذه مش اتناش بدي أخليها واحد وعشرين عشان يكون في |
|
|
|
126 |
|
00:09:36,070 --> 00:09:42,950 |
|
عندي out layer حقيقي وانا بدي ايش اخلص منه الان |
|
|
|
127 |
|
00:09:42,950 --> 00:09:46,790 |
|
مين عند ال error او ال error واضح وين يا شباب واضح |
|
|
|
128 |
|
00:09:46,790 --> 00:09:51,710 |
|
عندى في السالب لأن القيم كلهم موجبة كل القيم موجبة |
|
|
|
129 |
|
00:09:51,710 --> 00:09:56,070 |
|
باستثناء السالب واحدوكلها أقاينها حوالين العشرة |
|
|
|
130 |
|
00:09:56,070 --> 00:10:01,770 |
|
باستثناء ال 21 هاي ليش أنا جيبت المثال ده بالتحديد |
|
|
|
131 |
|
00:10:01,770 --> 00:10:05,190 |
|
عشان أقولك انتبه مش كل الخيارات ممكن تكون مناسبة |
|
|
|
132 |
|
00:10:05,190 --> 00:10:10,310 |
|
لك الآن بال mean وال median أنا خلصت وانحلت التمام |
|
|
|
133 |
|
00:10:10,310 --> 00:10:14,070 |
|
وراحت ال error زالت لكن لو أنا بدأ أشغل بال |
|
|
|
134 |
|
00:10:14,070 --> 00:10:17,190 |
|
boundary point بدأ أشغل على ال boundaries |
|
|
|
135 |
|
00:10:26,090 --> 00:10:29,110 |
|
حيظلوا موجودات في وجهي حيظلوا موجودات في ال data |
|
|
|
136 |
|
00:10:29,110 --> 00:10:33,450 |
|
set على الرغم إن هما ال outliers اللي أنا كنت عمال |
|
|
|
137 |
|
00:10:33,450 --> 00:10:37,250 |
|
بحاول أخلص منه أو بين جثين ال noise data اللي كنت |
|
|
|
138 |
|
00:10:37,250 --> 00:10:42,510 |
|
بحاول أخلص منها، مصبوط؟ فانت بدأت تنتبه، تنتبه إنه |
|
|
|
139 |
|
00:10:42,510 --> 00:10:47,130 |
|
أنا مش كل واحدة تسبق معايا، الآن اللي حيصير كتالي |
|
|
|
140 |
|
00:10:47,130 --> 00:10:52,230 |
|
سلب واحد، سلب اتنين أقرب لسلب واحد ولا للخمسة؟لأ |
|
|
|
141 |
|
00:10:52,230 --> 00:10:56,470 |
|
سالب واحد معناته هي سالب واحد سالب واحد التلاتة |
|
|
|
142 |
|
00:10:56,470 --> 00:11:03,870 |
|
لسالب واحد ولا خمسة لأ خمسة خمسة خمسة خمسة هان ستة |
|
|
|
143 |
|
00:11:03,870 --> 00:11:12,450 |
|
هان ستة ستة ستة ستة ستة ستة واحد وعشرين لاحظ ال |
|
|
|
144 |
|
00:11:12,450 --> 00:11:14,910 |
|
out layer بدل ما اخلص منها او ال noise ده بدل ما |
|
|
|
145 |
|
00:11:14,910 --> 00:11:19,960 |
|
اخلص منها عززتها كمان واحدةفانت بقتنطبه مش دائما |
|
|
|
146 |
|
00:11:19,960 --> 00:11:25,020 |
|
الخيارات هذه بتكوناش perfect بالنسبة لي فانت بتشوف |
|
|
|
147 |
|
00:11:25,020 --> 00:11:29,380 |
|
الخيار الأمثل في التعامل تمام وبالتالي خلصنا من |
|
|
|
148 |
|
00:11:29,380 --> 00:11:32,480 |
|
الموضوع ال binning طبعا ال binning زي ما انت شايف |
|
|
|
149 |
|
00:11:32,480 --> 00:11:36,360 |
|
موضوع بسيط سهل ممكن انا اسيطر عليه بشوية انتباه |
|
|
|
150 |
|
00:11:36,360 --> 00:11:41,480 |
|
وتركيز في التعامل الطريقة التانية ان اتخلص من ال |
|
|
|
151 |
|
00:11:41,480 --> 00:11:45,040 |
|
noise data ان انا اعمل regression شو يعني |
|
|
|
152 |
|
00:11:45,040 --> 00:11:50,520 |
|
regression؟هي عبارة عن الـ predictive task مصبوط |
|
|
|
153 |
|
00:11:50,520 --> 00:11:55,340 |
|
بحيث أن أصل على formula أو model يقدر يتنبأ بالقيم |
|
|
|
154 |
|
00:11:55,340 --> 00:11:59,720 |
|
زي ما بقول محمد by value الآن لو أنا أجيت و قلتلك |
|
|
|
155 |
|
00:11:59,720 --> 00:12:05,860 |
|
النقاط هذه المرسومة قدامي هي بتمثل ال data set |
|
|
|
156 |
|
00:12:05,860 --> 00:12:11,260 |
|
تبعتي لاحظ النقاط كلها جاية تمام حوالين الخط هذا |
|
|
|
157 |
|
00:12:11,260 --> 00:12:19,800 |
|
باستثناء النقطة اللي جاية هنابصبت؟ ليش جايها؟ لأن |
|
|
|
158 |
|
00:12:19,800 --> 00:12:23,520 |
|
فيها noise القيمة تبعتها فيها outlier أو فيها |
|
|
|
159 |
|
00:12:23,520 --> 00:12:28,520 |
|
noise معينة فخلتها بعيدة واحدة من الطرق تبعت ال |
|
|
|
160 |
|
00:12:28,520 --> 00:12:32,140 |
|
noise handling أو noise data handling ان انا اعمل |
|
|
|
161 |
|
00:12:32,140 --> 00:12:35,000 |
|
estimation او اعمل prediction لل regression |
|
|
|
162 |
|
00:12:35,000 --> 00:12:41,300 |
|
function او ال line model تبعتي ال line function |
|
|
|
163 |
|
00:12:41,300 --> 00:12:45,200 |
|
تبعتي بحيث ان انا ارسم الخط مستقيم اللي بيمثل كل |
|
|
|
164 |
|
00:12:45,200 --> 00:12:51,010 |
|
ال dataأرسم خط مستقيم يمثّل كل ال data والخط |
|
|
|
165 |
|
00:12:51,010 --> 00:12:56,230 |
|
المستقيم هذا له معادلة الآن بناء على قيمة X اللي |
|
|
|
166 |
|
00:12:56,230 --> 00:13:01,190 |
|
عندي هان اللي هي ثابتة بقدر أعمل estimation لمين |
|
|
|
167 |
|
00:13:01,190 --> 00:13:06,250 |
|
لقيمة Y الصحيحة هل هذا أنا بدي أطبقه على كل ال |
|
|
|
168 |
|
00:13:06,250 --> 00:13:16,160 |
|
data لأ فقط على ال noise data noisy pointوبالتالي |
|
|
|
169 |
|
00:13:16,160 --> 00:13:20,580 |
|
هذه القيمة هتطلع وين؟ معايا على الخط وبالتالي |
|
|
|
170 |
|
00:13:20,580 --> 00:13:27,120 |
|
هتاخد Y جديدة الفكرة أن الوصول لل regression model |
|
|
|
171 |
|
00:13:27,120 --> 00:13:36,520 |
|
هذا أو معادلة الخط المستقيم هي |
|
|
|
172 |
|
00:13:36,520 --> 00:13:41,260 |
|
بحد ذاتها data mining task predictive data mining |
|
|
|
173 |
|
00:13:41,260 --> 00:13:45,900 |
|
task عشان أعمل estimation لهلـ Value لـ Numeric |
|
|
|
174 |
|
00:13:45,900 --> 00:13:49,180 |
|
Value، مظبوط؟ لكن هذه واحدة من القرق اللي ممكن |
|
|
|
175 |
|
00:13:49,180 --> 00:13:52,200 |
|
برضه اطبقها انا عندى وها احنا عادة بنسميها احنا |
|
|
|
176 |
|
00:13:52,200 --> 00:13:59,000 |
|
Supervised Handling الشغل التالتة او الطريقة |
|
|
|
177 |
|
00:13:59,000 --> 00:14:01,740 |
|
التالتة اللي ممكن اعتمد عليها انا موضوع ال |
|
|
|
178 |
|
00:14:01,740 --> 00:14:04,120 |
|
clustering ال clustering اللي هي عبارة عن |
|
|
|
179 |
|
00:14:04,120 --> 00:14:07,820 |
|
descriptive task في ال data mining تقسيم ال data |
|
|
|
180 |
|
00:14:07,820 --> 00:14:13,090 |
|
set لمجموعة منلمجموعات من العناصر مجموعات عفوا |
|
|
|
181 |
|
00:14:13,090 --> 00:14:17,270 |
|
مجموعات من العناصر الآن بالصورة هذه واضح ان ال |
|
|
|
182 |
|
00:14:17,270 --> 00:14:19,790 |
|
data set تاني قدرت ان نشكلها في تلت مجموعات او |
|
|
|
183 |
|
00:14:19,790 --> 00:14:23,610 |
|
نحطها في تلت مجموعات العناصر اللي برا المجموعات |
|
|
|
184 |
|
00:14:23,610 --> 00:14:29,930 |
|
هذه ايش تمثل؟ تمثل noise data ممكن تكون outlier |
|
|
|
185 |
|
00:14:29,930 --> 00:14:33,450 |
|
صحيح هي outlier بالنسبة لل cluster لكن لل general |
|
|
|
186 |
|
00:14:33,450 --> 00:14:36,030 |
|
trend اللي موجود عندك هي مش outlier مش بعيدة كتير |
|
|
|
187 |
|
00:14:36,030 --> 00:14:40,560 |
|
يعني ال point هذه هي أقرب لل cluster هذاالـ |
|
|
|
188 |
|
00:14:40,560 --> 00:14:43,580 |
|
Outlier فعلياً يا شباب هي نقطة ممكن تكون موجودة |
|
|
|
189 |
|
00:14:43,580 --> 00:14:49,200 |
|
هنا بالنسبة للرسمة Outlier يعني نقطة شاذة، لو كانت |
|
|
|
190 |
|
00:14:49,200 --> 00:14:52,860 |
|
هذه نقطة واحدة، هذه النقطة فقط هي الموجودة وباقي |
|
|
|
191 |
|
00:14:52,860 --> 00:14:56,780 |
|
النقاط اللي برا هذه مش موجودة، بقول عنها Outlier، |
|
|
|
192 |
|
00:14:56,780 --> 00:15:01,300 |
|
لكن الآن بما أنه بمثل noise data، قاعد بأتكلم عليه |
|
|
|
193 |
|
00:15:01,300 --> 00:15:08,840 |
|
مجموعة من العناصر، الآن قدامي حل من اتنيناما اعتمد |
|
|
|
194 |
|
00:15:08,840 --> 00:15:12,140 |
|
فقط على ال data set أو ال elements أو ال samples |
|
|
|
195 |
|
00:15:12,140 --> 00:15:16,380 |
|
اللي في داخل ال clusters التلاتة هدول بعد ما عملت |
|
|
|
196 |
|
00:15:16,380 --> 00:15:20,820 |
|
clustering و اتجهل او اعمل delete لكل ال noise |
|
|
|
197 |
|
00:15:20,820 --> 00:15:25,280 |
|
data هاي بس فعليا أنا قاعد بدحّب عدد كبير من ال |
|
|
|
198 |
|
00:15:25,280 --> 00:15:29,520 |
|
data set ولا لأ؟لأ، الحل التاني إن ممكن أنا أستخدم |
|
|
|
199 |
|
00:15:29,520 --> 00:15:33,920 |
|
الـ Common Sense أو أروح أفحص كل واحدة فيهم بشكل |
|
|
|
200 |
|
00:15:33,920 --> 00:15:38,660 |
|
مستقل إيش الـ Outlier Value أو إيش الـ Noise |
|
|
|
201 |
|
00:15:38,660 --> 00:15:41,260 |
|
عفواً، إيش الـ Noise Value اللي خلتها بعيدة عن ال |
|
|
|
202 |
|
00:15:41,260 --> 00:15:45,640 |
|
cluster هذي حتما ال point هذه أقرب ل cluster هذا |
|
|
|
203 |
|
00:15:45,640 --> 00:15:49,220 |
|
من هذا، قصده ولا لأ؟ إيش اللي خلاها بعيدة هنا؟ |
|
|
|
204 |
|
00:15:49,220 --> 00:15:52,160 |
|
هتلاقي في Single Value موجودة في attribute معين |
|
|
|
205 |
|
00:15:52,160 --> 00:15:57,110 |
|
ممكن هذه أروح أعملها Adjustment و أضيفها لمين؟للـ |
|
|
|
206 |
|
00:15:57,110 --> 00:15:59,890 |
|
cluster اللي موجود عشان مضحيش بال data لكن لو كانت |
|
|
|
207 |
|
00:15:59,890 --> 00:16:03,410 |
|
نقطة أو تنتين ومش قادرة تحاول تعملهم handling ضمن |
|
|
|
208 |
|
00:16:03,410 --> 00:16:06,990 |
|
العدد الكبير اللي موجود عندي هنا فممكن تحذفهم و |
|
|
|
209 |
|
00:16:06,990 --> 00:16:11,130 |
|
تخلص الان في ال clustering و بتحديدا مع ال |
|
|
|
210 |
|
00:16:11,130 --> 00:16:15,390 |
|
visualization سواء كنت في ال regression أو بال |
|
|
|
211 |
|
00:16:15,390 --> 00:16:19,790 |
|
clustering لاحظ الرسمة كانت بتخدمني بشكل كبير في |
|
|
|
212 |
|
00:16:19,790 --> 00:16:23,790 |
|
موضوع كده أفهم ال data اللي موجود عندي وقدرت أحدد |
|
|
|
213 |
|
00:16:23,790 --> 00:16:30,640 |
|
من ال outlierبكل بساطة وهيك بتكون خلصنا من معالجة |
|
|
|
214 |
|
00:16:30,640 --> 00:16:36,220 |
|
ال noise data خلصنا من معالجة ال noise data في ال |
|
|
|
215 |
|
00:16:36,220 --> 00:16:40,580 |
|
inconsistent data inconsistent data غير متناسقة |
|
|
|
216 |
|
00:16:40,580 --> 00:16:48,580 |
|
عمره 40 سنة و تاريخ ميلاده 1990 male و pregnant |
|
|
|
217 |
|
00:16:48,580 --> 00:16:56,540 |
|
مولود في 1900 وخشبة و طالب سنة أولى ابتدائيفهذه |
|
|
|
218 |
|
00:16:56,540 --> 00:17:00,960 |
|
المعلومات هي الـ Inconsistent تتوقع ممكن تلاقي |
|
|
|
219 |
|
00:17:00,960 --> 00:17:08,700 |
|
system في الدنيا يحددلك إياها؟ |
|
|
|
220 |
|
00:17:08,700 --> 00:17:12,540 |
|
أيوة، يعني بدك يكون فعليا Dedicated System تم |
|
|
|
221 |
|
00:17:12,540 --> 00:17:16,300 |
|
إنشاء نظام للحالات اللي زي هذه وحط ال rules زي ما |
|
|
|
222 |
|
00:17:16,300 --> 00:17:21,400 |
|
عمله بجول كريم بس الآن في موضوع المال و pregnant |
|
|
|
223 |
|
00:17:21,400 --> 00:17:26,250 |
|
الحامل للذكور هل هذا وارد؟في عمر واحد عاجل بيفكر |
|
|
|
224 |
|
00:17:26,250 --> 00:17:30,070 |
|
يبني rule زي هيك عشان يدور لأنه الأصل لأ، لكن في |
|
|
|
225 |
|
00:17:30,070 --> 00:17:34,270 |
|
لحظة من اللحظات ممكن أنا أضطر أكتب rule عشان يحل |
|
|
|
226 |
|
00:17:34,270 --> 00:17:37,750 |
|
أو يدورلي على الحالات اللي زي هذه، بس فعليا مش |
|
|
|
227 |
|
00:17:37,750 --> 00:17:42,370 |
|
هتلاقيه بسهولة، انت بتعمله development الشغل ال |
|
|
|
228 |
|
00:17:42,370 --> 00:17:47,490 |
|
manual أحسن لأن هذه ال cases قليلة جدا، تمام؟ |
|
|
|
229 |
|
00:17:47,490 --> 00:17:52,880 |
|
وغالبا هتختلف من حالة لحالةلكن احنا بنقول لو فرضا |
|
|
|
230 |
|
00:17:52,880 --> 00:17:57,200 |
|
ان الحالة هذه ممكن تتكرر ايش بروح بساوي ممكن |
|
|
|
231 |
|
00:17:57,200 --> 00:18:00,440 |
|
ابنيلها system بسيط يعمل ال check تماما زي اللي |
|
|
|
232 |
|
00:18:00,440 --> 00:18:05,240 |
|
بتكلم عن ال spelling check programs الان الخطاء |
|
|
|
233 |
|
00:18:05,240 --> 00:18:08,720 |
|
الإملئي أثناء الكتابة ايش هو مش هو عبارة عن برنامج |
|
|
|
234 |
|
00:18:08,720 --> 00:18:13,780 |
|
عنده موجود الكلمات بين جثين ال rules وبروح بصير |
|
|
|
235 |
|
00:18:13,780 --> 00:18:18,760 |
|
يقارنها بعضهم راح يقولك في عندك grammar checkبدي |
|
|
|
236 |
|
00:18:18,760 --> 00:18:21,720 |
|
أعرف قوانين الكتابة وصياغة اللغة وهنا نفس الكلام |
|
|
|
237 |
|
00:18:21,720 --> 00:18:28,320 |
|
بدي أصير أنا أكون عارف وين ال inconsistency بتصير |
|
|
|
238 |
|
00:18:28,320 --> 00:18:30,600 |
|
بين ال attributes وصير أحطها في rules عشان يعملها |
|
|
|
239 |
|
00:18:30,600 --> 00:18:34,740 |
|
detection لكن هذا الكلام صعب وصعب جدا احنا بدنا |
|
|
|
240 |
|
00:18:34,740 --> 00:18:38,460 |
|
نعمل focus على الشغل لكن ممكن المعنى والهدا مهم |
|
|
|
241 |
|
00:18:38,460 --> 00:18:43,440 |
|
جدا عشان هيك عشان هيك أول واحدة في معالج ال |
|
|
|
242 |
|
00:18:43,440 --> 00:18:49,580 |
|
inconsistent data ال common senseتستخدم المنطق |
|
|
|
243 |
|
00:18:49,580 --> 00:18:53,980 |
|
السليم تبعك في التفكير مش بس الإحساس اقول اه والله |
|
|
|
244 |
|
00:18:53,980 --> 00:18:58,660 |
|
okay male و pregnant انا حاسس انه مش صحيح المعلوم |
|
|
|
245 |
|
00:18:58,660 --> 00:19:02,720 |
|
لأ ال common sense مقصودها ان البديهيات بالنسبة |
|
|
|
246 |
|
00:19:02,720 --> 00:19:06,780 |
|
اليك فخلاص في مشكلة هنا male مستحيل يكون pregnant |
|
|
|
247 |
|
00:19:06,780 --> 00:19:11,440 |
|
او يكون ال gender عندي مدخل خطأ و هو female مصبوط |
|
|
|
248 |
|
00:19:11,440 --> 00:19:15,500 |
|
ولا لأ؟ وبالتالي هذه الحالتين الموجودات لكن لو |
|
|
|
249 |
|
00:19:15,500 --> 00:19:23,560 |
|
طلعت في السجل كله ياتهدخل مدرسة للذكور ومحطوط لبعد |
|
|
|
250 |
|
00:19:23,560 --> 00:19:30,920 |
|
فترة pregnant لأ مستحيل فكلمة pregnant هي الخطأ |
|
|
|
251 |
|
00:19:30,920 --> 00:19:35,120 |
|
وبالتالي بدنا نشيلها من العناصر الموجودة الفكرة |
|
|
|
252 |
|
00:19:35,120 --> 00:19:38,020 |
|
كمان مرة يا جماعة الخير ال common sense لازم تكون |
|
|
|
253 |
|
00:19:38,020 --> 00:19:41,880 |
|
حاضرة احنا عندنا مشاكل كبيرة مع الأنظمة كعرب لما |
|
|
|
254 |
|
00:19:41,880 --> 00:19:42,840 |
|
اتكلم بال hands up |
|
|
|
255 |
|
00:19:45,990 --> 00:19:51,190 |
|
حمزة مكسورة، حمزة مفتوحة، حمزة مضمومة والإنجليز |
|
|
|
256 |
|
00:19:51,190 --> 00:19:54,710 |
|
كذلك عندهم نفس المشاكل الأجانب في عند الـDennis |
|
|
|
257 |
|
00:19:54,710 --> 00:20:00,050 |
|
وDennis وهاي قرها عن هاي واحد يقول الـMan names |
|
|
|
258 |
|
00:20:00,050 --> 00:20:02,690 |
|
أساسا مابديش هي في ال mining task بقوله كلامك صح |
|
|
|
259 |
|
00:20:02,690 --> 00:20:06,390 |
|
بس هذا الكلام وارد عشان تقدر توافق على سبيل المثال |
|
|
|
260 |
|
00:20:06,390 --> 00:20:10,210 |
|
في ال integration لما نجيه كمان شوية بدي أجمع two |
|
|
|
261 |
|
00:20:10,210 --> 00:20:13,470 |
|
datasets مع بعضهم لجيت رقم واحد، اتنين، تلاتة، |
|
|
|
262 |
|
00:20:13,470 --> 00:20:18,130 |
|
أربعة واسمه Dennis، الاسم الأولورقمه في الـ Data 6 |
|
|
|
263 |
|
00:20:18,130 --> 00:20:22,550 |
|
اللي جاي من وزارة الصحة 1234 والاسم مكتوب Dennis |
|
|
|
264 |
|
00:20:22,550 --> 00:20:25,250 |
|
بالـ Spelling التاني هجول لا لا هدول الـ Two |
|
|
|
265 |
|
00:20:25,250 --> 00:20:30,110 |
|
Records مش نفسهم لأ هما نفسهم ومافيش بينهم تعارض |
|
|
|
266 |
|
00:20:30,110 --> 00:20:35,610 |
|
لأ ما هو في شغلات بتأكد أن ممكن الـ Data تكون هذي |
|
|
|
267 |
|
00:20:35,610 --> 00:20:42,110 |
|
غلط بصبت؟ يعني الآن لجيت Two Records نفسه الـ ID |
|
|
|
268 |
|
00:20:42,110 --> 00:20:44,890 |
|
1234 و1 خليل و2 حسن |
|
|
|
269 |
|
00:20:47,870 --> 00:20:52,910 |
|
لأ، في غلط، لكن لما ألاقي هذا Dennis وDennis مافيه |
|
|
|
270 |
|
00:20:52,910 --> 00:20:56,310 |
|
غلط، صح فيه difference في ال value تبع ال name |
|
|
|
271 |
|
00:20:56,310 --> 00:21:01,770 |
|
هنا، لكنه فعلاً ضمن ال common sense هذا نفس الإسم، |
|
|
|
272 |
|
00:21:01,770 --> 00:21:08,430 |
|
إيش يا محمد، تمام؟ طبعا، |
|
|
|
273 |
|
00:21:08,430 --> 00:21:11,010 |
|
بكتب دور على ال inappropriate values القيم الغير |
|
|
|
274 |
|
00:21:11,010 --> 00:21:16,010 |
|
منطقية أو الغير متاحة، |
|
|
|
275 |
|
00:21:16,010 --> 00:21:16,290 |
|
طيب |
|
|
|
276 |
|
00:21:20,090 --> 00:21:24,030 |
|
كيبك تصلحها؟ كيبك تصلح الـ inconsistent data؟ |
|
|
|
277 |
|
00:21:24,030 --> 00:21:30,910 |
|
Manual، بعد ما أحددها، بدي أحددها أصلحها إيش؟ |
|
|
|
278 |
|
00:21:30,910 --> 00:21:34,190 |
|
Manual، يعني لازم أرجع لل documents و أقارن ال |
|
|
|
279 |
|
00:21:34,190 --> 00:21:38,090 |
|
data اللي موجودة عندها تخيل، بقولك أنت لو روحت على |
|
|
|
280 |
|
00:21:38,090 --> 00:21:44,970 |
|
زبائن بنك معين و لجيت 5% منهم كلهم مولودين في 112 |
|
|
|
281 |
|
00:21:48,490 --> 00:21:51,850 |
|
صدفة حلوة لأ أنا بقولك في خطأ و .. و .. خطأ أكيد |
|
|
|
282 |
|
00:21:51,850 --> 00:21:56,090 |
|
يعني عويجي يقولي والله الطلاب المسجلين عشرين |
|
|
|
283 |
|
00:21:56,090 --> 00:21:58,570 |
|
فالمية من الطلاب الموجودين بيننا الآن في المحاضرة |
|
|
|
284 |
|
00:21:58,570 --> 00:22:01,290 |
|
في ال data mining من موريد الف وتسعمائية وخشبة |
|
|
|
285 |
|
00:22:01,290 --> 00:22:04,790 |
|
مستحيل |
|
|
|
286 |
|
00:22:06,190 --> 00:22:10,250 |
|
كيف اتجمع كلهم؟ هل هم .. الآن تقولك والله هذا |
|
|
|
287 |
|
00:22:10,250 --> 00:22:13,290 |
|
التاريخ .. هذا التاريخ .. يعني لكل واحد فيه تاريخ |
|
|
|
288 |
|
00:22:13,290 --> 00:22:18,590 |
|
مولاد مستقل و لا لأ تيجي تقولي عشان صدفة غريبة بما |
|
|
|
289 |
|
00:22:18,590 --> 00:22:22,030 |
|
أنها غريبة بدروح اتحقق منها طب اتحقق منها كي بدوا |
|
|
|
290 |
|
00:22:22,030 --> 00:22:27,870 |
|
تايم الشباب؟ هاتوا هوياتكم مش هيك اللي حيصير؟ هرجع |
|
|
|
291 |
|
00:22:27,870 --> 00:22:31,250 |
|
لل document الحقيقي عشان انا اعمل ال check على ال |
|
|
|
292 |
|
00:22:31,250 --> 00:22:35,570 |
|
values اللي موجودة من الشغلات اللي بتساعدني في فهم |
|
|
|
293 |
|
00:22:36,920 --> 00:22:40,520 |
|
الـ Consistency تبع الـ Data و تحديد الـ |
|
|
|
294 |
|
00:22:40,520 --> 00:22:46,440 |
|
Inconsistent Values الـ Metadata ليش؟ |
|
|
|
295 |
|
00:22:46,440 --> 00:22:48,820 |
|
لأن في الـ Metadata باجي أتكلم على الـ Domain و |
|
|
|
296 |
|
00:22:48,820 --> 00:22:51,300 |
|
الـ Range و الـ Dependency و الـ Distribution تبع |
|
|
|
297 |
|
00:22:51,300 --> 00:22:54,180 |
|
الـ Attributes بيجي يقولني والله عندي ال salary |
|
|
|
298 |
|
00:22:54,180 --> 00:22:59,320 |
|
العبارة عن number تتراوح الأرقام أو ال values ال |
|
|
|
299 |
|
00:22:59,320 --> 00:23:03,180 |
|
minimum salary 1500 و ال maximum salary 2700 |
|
|
|
300 |
|
00:23:06,210 --> 00:23:14,850 |
|
لاجيت فيه salary مدخل 3700 inconsistent ليش؟ لأنها |
|
|
|
301 |
|
00:23:14,850 --> 00:23:18,810 |
|
طلعت برا .. برا ال rule اللي حددليها ال range |
|
|
|
302 |
|
00:23:18,810 --> 00:23:24,710 |
|
تمام؟ وبالتالي فهم ال metadata بيساعدني في تحديد |
|
|
|
303 |
|
00:23:24,710 --> 00:23:31,690 |
|
ال inconsistent data بدي أفحص ال field overloading |
|
|
|
304 |
|
00:23:31,690 --> 00:23:36,380 |
|
أو ال field overloading شو يعني overloading؟بالـ |
|
|
|
305 |
|
00:23:36,380 --> 00:23:40,020 |
|
object oriented شو يعني overloading؟ overloading |
|
|
|
306 |
|
00:23:40,020 --> 00:23:43,460 |
|
method انه |
|
|
|
307 |
|
00:23:43,460 --> 00:23:47,120 |
|
في عندى method بتحمل نفس الاسم لكن ال signature |
|
|
|
308 |
|
00:23:47,120 --> 00:23:50,840 |
|
تبعتها مختلفة شو يعني ال signature؟ اما ال return |
|
|
|
309 |
|
00:23:50,840 --> 00:23:55,880 |
|
value او ال parameter متفقين طيب يعني شو يعني |
|
|
|
310 |
|
00:23:55,880 --> 00:23:59,840 |
|
overloading attribute؟ انه ال attribute هذا ظهر |
|
|
|
311 |
|
00:23:59,840 --> 00:24:04,950 |
|
بشكل مختلف مع انه ال values تبعت ايش؟متشابهة يعني |
|
|
|
312 |
|
00:24:04,950 --> 00:24:10,070 |
|
لجيت انا عندي فعليا ال age لجيت ال age و لجيت |
|
|
|
313 |
|
00:24:10,070 --> 00:24:16,310 |
|
تاريخ الميلاد المفروض التانين بتدوني نفس المعلومة |
|
|
|
314 |
|
00:24:16,310 --> 00:24:20,730 |
|
ولا شو رايكوا اه هو انا هكتفي بواحد يا أهي ابو |
|
|
|
315 |
|
00:24:20,730 --> 00:24:25,430 |
|
حينه لكن الآن عشان انا افحص ال consistency ممكن |
|
|
|
316 |
|
00:24:25,430 --> 00:24:31,090 |
|
هذا يخدمني في الموضوع ولا شو رايكوا ال uniqueness |
|
|
|
317 |
|
00:24:31,090 --> 00:24:36,480 |
|
rulesكذلك أنه لما أنا بكون فاهم ال description صح |
|
|
|
318 |
|
00:24:36,480 --> 00:24:40,840 |
|
وبيجي بقولي ال attribute الفلاني كل ال values اللي |
|
|
|
319 |
|
00:24:40,840 --> 00:24:46,500 |
|
فيه unique تمام؟ كل ال values اللي فيه unique |
|
|
|
320 |
|
00:24:46,500 --> 00:24:52,640 |
|
مابتتكررش وبلاجي فيه تكرار و هذا مؤشر أنه صار في |
|
|
|
321 |
|
00:24:52,640 --> 00:24:56,420 |
|
عندي شغل غلط في ال data setهل الروها دي duplicated |
|
|
|
322 |
|
00:24:56,420 --> 00:25:00,680 |
|
ولا فعليا في عندي عناصر عامالها بتظهر في الآخر |
|
|
|
323 |
|
00:25:00,680 --> 00:25:03,460 |
|
ممكن يكون عند بعض ال commercial tools اللي بتعمل |
|
|
|
324 |
|
00:25:03,460 --> 00:25:06,060 |
|
analysis لل data و بتجيبلي العلاقة بين ال values |
|
|
|
325 |
|
00:25:06,060 --> 00:25:11,800 |
|
ال different values لكن مجالاتها قليلة جدا زي ما |
|
|
|
326 |
|
00:25:11,800 --> 00:25:17,180 |
|
قلنا سابقا يعني بكل بساطة بكل بساطة ال |
|
|
|
327 |
|
00:25:17,180 --> 00:25:22,540 |
|
inconsistent data بتحتاجك انت as a humanأكتر ما |
|
|
|
328 |
|
00:25:22,540 --> 00:25:27,940 |
|
بتحتاج machine أو program عشان يحددها ويصلحها |
|
|
|
329 |
|
00:25:27,940 --> 00:25:37,240 |
|
تمام؟ تمام يا شباب؟ تمام تمام ننتقل للنقطة اللي |
|
|
|
330 |
|
00:25:37,240 --> 00:25:41,540 |
|
بعد هيك احنا قلنا للوصول لل knowledge presentation |
|
|
|
331 |
|
00:25:41,540 --> 00:25:52,190 |
|
كم قطة بدي امشي؟ ايوة؟ سبعة data cleaningdata |
|
|
|
332 |
|
00:25:52,190 --> 00:25:57,270 |
|
integration data selection data transformation |
|
|
|
333 |
|
00:25:57,270 --> 00:26:00,890 |
|
data mining الـ transformation بالمناسبة قبل ال |
|
|
|
334 |
|
00:26:00,890 --> 00:26:04,330 |
|
selection مش قضية كتير data mining knowledge |
|
|
|
335 |
|
00:26:04,330 --> 00:26:09,570 |
|
knowledge evaluation أو better evaluation و |
|
|
|
336 |
|
00:26:09,570 --> 00:26:14,210 |
|
knowledge presentation تمام الآن بدنا ننتقل لل |
|
|
|
337 |
|
00:26:14,210 --> 00:26:19,460 |
|
task التانية مباشرة اللي هي ال dataIntegration |
|
|
|
338 |
|
00:26:19,460 --> 00:26:24,140 |
|
يعني احنا بفهم بناء على الخطوة هاي إذا كان في عندي |
|
|
|
339 |
|
00:26:24,140 --> 00:26:29,380 |
|
two different data source data set one و data set |
|
|
|
340 |
|
00:26:29,380 --> 00:26:36,020 |
|
two من different resources الأصل .. الأصل أن أعمل |
|
|
|
341 |
|
00:26:36,020 --> 00:26:42,720 |
|
cleaning لتنتين جبل ما أعمل integration ليش؟ |
|
|
|
342 |
|
00:26:43,160 --> 00:26:47,100 |
|
لأنه فعليا احنا مش بحاجة ال null حتصير في عندي |
|
|
|
343 |
|
00:26:47,100 --> 00:26:50,240 |
|
مشكلة فانا لما بدي اعمل integration بدي اكون على |
|
|
|
344 |
|
00:26:50,240 --> 00:26:53,760 |
|
السليم يعني في مرحلة ما بعد ال cleaning عشان اضمن |
|
|
|
345 |
|
00:26:53,760 --> 00:26:58,000 |
|
يصير في عندي combination صح لل data set الآن |
|
|
|
346 |
|
00:26:58,000 --> 00:27:00,440 |
|
وبالتالي ال data integration هي عبارة عن |
|
|
|
347 |
|
00:27:00,440 --> 00:27:03,080 |
|
combination أو combines ال data from different |
|
|
|
348 |
|
00:27:03,080 --> 00:27:07,480 |
|
sources زي ما قلنا سابقا بالمثال اللي قلناه هنكرره |
|
|
|
349 |
|
00:27:07,480 --> 00:27:13,210 |
|
كتير كاسمتقدير تحصيل الطالب أو مستوى تحصيل الطالب |
|
|
|
350 |
|
00:27:13,210 --> 00:27:15,950 |
|
في المرحلة الابتدائية بناء على الحالة الصحية، |
|
|
|
351 |
|
00:27:15,950 --> 00:27:18,730 |
|
مصبوط؟ وكل هذه المعلومات من two different |
|
|
|
352 |
|
00:27:18,730 --> 00:27:23,810 |
|
resources تربية و التعليم و الصحة و بدي اعمل |
|
|
|
353 |
|
00:27:23,810 --> 00:27:29,330 |
|
integration ما بين العناصر اللي موجودة عندها ليش |
|
|
|
354 |
|
00:27:29,330 --> 00:27:35,110 |
|
انا فعليا بدي اعمل data integration لواحد من سببين |
|
|
|
355 |
|
00:27:35,110 --> 00:27:47,080 |
|
الأول انه انا في عندي smalldata set small |
|
|
|
356 |
|
00:27:47,080 --> 00:27:52,260 |
|
data set لما بتكلم small data set معناته ال |
|
|
|
357 |
|
00:27:52,260 --> 00:27:58,220 |
|
integration هدفه زيادة عدد ال rows زيادة عدد ال |
|
|
|
358 |
|
00:27:58,220 --> 00:28:05,820 |
|
samples، مظبوط؟ الشغل |
|
|
|
359 |
|
00:28:05,820 --> 00:28:07,940 |
|
التاني سبب ال integration |
|
|
|
360 |
|
00:28:11,780 --> 00:28:17,120 |
|
more information for |
|
|
|
361 |
|
00:28:17,120 --> 00:28:23,700 |
|
the samples أنا بحاجة لمعلومات |
|
|
|
362 |
|
00:28:23,700 --> 00:28:27,040 |
|
جديدة عن ال samples عاملا في المثال اللي بنقول |
|
|
|
363 |
|
00:28:27,040 --> 00:28:31,180 |
|
عليه أنا عنده معلومات خاصة بالمدرسة و بالتعليم سجل |
|
|
|
364 |
|
00:28:31,180 --> 00:28:33,920 |
|
الطالب التعليمي موجودة في وزارة و أنا شغال في |
|
|
|
365 |
|
00:28:33,920 --> 00:28:38,520 |
|
الوزارة فهي موجودة عند ال data setالأن المعلومات |
|
|
|
366 |
|
00:28:38,520 --> 00:28:41,640 |
|
اللي أنا بدي إياها إضافية عشان تخدم ال task تبعتي |
|
|
|
367 |
|
00:28:41,640 --> 00:28:45,820 |
|
موجودة في وزارة الصحة مش بدأ أساوي بدي أجيبها عشان |
|
|
|
368 |
|
00:28:45,820 --> 00:28:49,880 |
|
أضيف information لكل sample يعني أنا بدي أضيف بين |
|
|
|
369 |
|
00:28:49,880 --> 00:28:57,380 |
|
جثين attributes مصبوط؟ |
|
|
|
370 |
|
00:28:57,380 --> 00:29:01,940 |
|
لأن هان مش هعمل على ال enlargement لل data set مش |
|
|
|
371 |
|
00:29:01,940 --> 00:29:05,460 |
|
هزيد عدد ال rows هزيد عدد ال attributes |
|
|
|
372 |
|
00:29:12,330 --> 00:29:21,810 |
|
الان لو انا بدي اعمل data set بسيطة هنا ال |
|
|
|
373 |
|
00:29:21,810 --> 00:29:31,090 |
|
ID |
|
|
|
374 |
|
00:29:31,090 --> 00:29:36,110 |
|
ال name ال |
|
|
|
375 |
|
00:29:36,110 --> 00:29:39,150 |
|
age و ال level |
|
|
|
376 |
|
00:29:42,930 --> 00:29:50,070 |
|
والـ GPA أو الـ Average GPA متوسط |
|
|
|
377 |
|
00:29:50,070 --> 00:29:56,130 |
|
تحصيله هذه المعلومات من وين؟ من المدرسة أو من |
|
|
|
378 |
|
00:29:56,130 --> 00:30:04,130 |
|
وزارة التدريب والتعليم في وزارة الصحة مافيش |
|
|
|
379 |
|
00:30:04,130 --> 00:30:08,110 |
|
اهم مافيش |
|
|
|
380 |
|
00:30:08,110 --> 00:30:13,070 |
|
average مافيش level مظبوط كلامكال ID و ال name |
|
|
|
381 |
|
00:30:13,070 --> 00:30:18,850 |
|
بتكلم على ال weight العمر |
|
|
|
382 |
|
00:30:18,850 --> 00:30:29,210 |
|
مثلا هاي ال age date of birth ليكن ال weight ال |
|
|
|
383 |
|
00:30:29,210 --> 00:30:36,770 |
|
height illness هل في أمراض ولا لأ هل بتدناول أدوية |
|
|
|
384 |
|
00:30:36,770 --> 00:30:40,350 |
|
ولا لأ treatment إلى آخره الأهم أنا بدي أعمل |
|
|
|
385 |
|
00:30:40,350 --> 00:30:45,640 |
|
combinationأو بدي أجمع الـ two data set هدول عشان |
|
|
|
386 |
|
00:30:45,640 --> 00:30:49,500 |
|
ال task تبعتي هدفها كمان مرة للمرة كده أشهد الألف |
|
|
|
387 |
|
00:30:49,500 --> 00:30:54,580 |
|
تمام؟ كمان مرة بنتكلم أنه أنا بدي أحاول أعمل |
|
|
|
388 |
|
00:30:54,580 --> 00:31:00,560 |
|
prediction لمستوى تحصيل الطالب بناء على سجله الصحي |
|
|
|
389 |
|
00:31:00,560 --> 00:31:06,360 |
|
ال combination هذا هيصير هاني علي أبو الخير صحيح؟ |
|
|
|
390 |
|
00:31:10,100 --> 00:31:15,820 |
|
تمام هذا ال raw أو ال data set بدها تكون هنا وكأني |
|
|
|
391 |
|
00:31:15,820 --> 00:31:24,320 |
|
بكل بساطة بدي اعمل inner join بين two tables فهذه |
|
|
|
392 |
|
00:31:24,320 --> 00:31:26,880 |
|
ال combination كان هدفها او هذه ال integration |
|
|
|
393 |
|
00:31:26,880 --> 00:31:32,420 |
|
هدفها اضافة معلومات جديدةلكل entity لكل sample لأن |
|
|
|
394 |
|
00:31:32,420 --> 00:31:36,600 |
|
عشان تتحقق ال task الموجودة لكن لو قلنا والله أن |
|
|
|
395 |
|
00:31:36,600 --> 00:31:42,360 |
|
الطالب هذا كان فترة الإبتدائي عايش أو بدرس في |
|
|
|
396 |
|
00:31:42,360 --> 00:31:46,520 |
|
مدرسة خاصة أو مدرسة خاصة والمعلومات هذه ماكنتش |
|
|
|
397 |
|
00:31:46,520 --> 00:31:50,560 |
|
موجودة في وزارة الصحة وقدرنا نحصل المعلومات هذه من |
|
|
|
398 |
|
00:31:50,560 --> 00:31:57,880 |
|
المدرسة وين بدها تنضاف؟ بدها تنضاف record 10 بدها |
|
|
|
399 |
|
00:31:57,880 --> 00:32:05,910 |
|
تنضافrecord هان تمام وبالتالي مصادر البيانات تبعتي |
|
|
|
400 |
|
00:32:05,910 --> 00:32:10,750 |
|
انا تصنف على واحد من اتنين اما internal او |
|
|
|
401 |
|
00:32:10,750 --> 00:32:14,390 |
|
external internal لما انا بكون as a developer او |
|
|
|
402 |
|
00:32:14,390 --> 00:32:19,890 |
|
data scientist شغال والمعلومات هذه ملكي يعني انا |
|
|
|
403 |
|
00:32:19,890 --> 00:32:23,530 |
|
شغال في وزارة التربية والتعليم وبدنا نشتغل على كذا |
|
|
|
404 |
|
00:32:23,530 --> 00:32:27,790 |
|
هذه المعلومات عندى موجودة في ال database تبعتي |
|
|
|
405 |
|
00:32:29,690 --> 00:32:33,650 |
|
تمام؟ هذه بنسميها Internal Source طب و ال External |
|
|
|
406 |
|
00:32:33,650 --> 00:32:37,930 |
|
Source أنه أنا فعليا بيانات بدي أحاول أستعيد .. |
|
|
|
407 |
|
00:32:37,930 --> 00:32:42,690 |
|
ممكن أدفع حجها أحيانا أحصل عليها من برا الآن |
|
|
|
408 |
|
00:32:42,690 --> 00:32:47,870 |
|
بالنسبة إيه للبيانات في وزارة الصحة External .. |
|
|
|
409 |
|
00:32:47,870 --> 00:32:54,370 |
|
الآن لما بدك .. روحت الآن ال ..يتكلموا على الشركات |
|
|
|
410 |
|
00:32:54,370 --> 00:32:58,270 |
|
الإتصالات والبنوك والـ Credit Cards والمعاملات مش |
|
|
|
411 |
|
00:32:58,270 --> 00:33:03,170 |
|
كل المعلومات Local مصبوط؟ بنك فلسطين الآن Local |
|
|
|
412 |
|
00:33:03,170 --> 00:33:05,990 |
|
لما أنا بكون جوا فلسطين و بستخدم ال ATM تبعته |
|
|
|
413 |
|
00:33:05,990 --> 00:33:09,690 |
|
بأنتقل باستخدام ATM بتاعة البنك الإسلامي الفلسطيني |
|
|
|
414 |
|
00:33:09,690 --> 00:33:14,440 |
|
أو العربي بديت فيه عندي Transaction Externalكنت في |
|
|
|
415 |
|
00:33:14,440 --> 00:33:17,440 |
|
دولة تانية و استخدمت بطاقة بنك فلسطين برضه فيها |
|
|
|
416 |
|
00:33:17,440 --> 00:33:20,800 |
|
عندى external data وإن كان حصير فيه hint أو فيه |
|
|
|
417 |
|
00:33:20,800 --> 00:33:25,400 |
|
عندى مقاصة لل value اللى موجودة مش قضية كتير بس |
|
|
|
418 |
|
00:33:25,400 --> 00:33:28,320 |
|
احنا بدنا نفهم انه فيه عندى ال data تصنف بناء على |
|
|
|
419 |
|
00:33:28,320 --> 00:33:35,540 |
|
مصدرها وعادة التعامل مع ال internalأسهل من ال |
|
|
|
420 |
|
00:33:35,540 --> 00:33:39,580 |
|
external لأن عادة ال internal أنا فاهمها كويس عارف |
|
|
|
421 |
|
00:33:39,580 --> 00:33:43,540 |
|
إيش محتوياتها عارف إيش عيوبها بالتفصيل و بقدر لكن |
|
|
|
422 |
|
00:33:43,540 --> 00:33:47,700 |
|
اللي برا تحتاج مني جهد أكتر و غالبا ما هي مش على |
|
|
|
423 |
|
00:33:47,700 --> 00:33:52,420 |
|
مزاجي فحتى عب عليها كويس في موضوع ال integration |
|
|
|
424 |
|
00:33:52,420 --> 00:33:58,400 |
|
ضروري تنتبه لل identity identification أنا قبل |
|
|
|
425 |
|
00:33:58,400 --> 00:34:03,000 |
|
شوية قلت اسمه واحد اتنين تلاتة أربعة و مرة أحمد |
|
|
|
426 |
|
00:34:04,240 --> 00:34:10,340 |
|
ومرة تانية خليل اعمل |
|
|
|
427 |
|
00:34:10,340 --> 00:34:14,960 |
|
merge لل two rows هذول يعني اسمه هان واحد اتنين |
|
|
|
428 |
|
00:34:14,960 --> 00:34:21,900 |
|
تلاتة اربعة احمد وانا واحد اتنين تلاتة اربعة خليل |
|
|
|
429 |
|
00:34:21,900 --> 00:34:27,740 |
|
وانا بقعد بدي اعمل integration بين ال two datasets |
|
|
|
430 |
|
00:34:27,740 --> 00:34:35,440 |
|
هذول شو رايكوا اذا انا بدي اعتمد على ال ID هيهال |
|
|
|
431 |
|
00:34:35,440 --> 00:34:40,940 |
|
ID بيقوللي ادمج نصبوت؟ ال ID بيقوللي ادمج اذا كنت |
|
|
|
432 |
|
00:34:40,940 --> 00:34:43,680 |
|
انا بدي اعتمد فقط على ال primary key بيقوللي ادمج |
|
|
|
433 |
|
00:34:43,680 --> 00:34:49,180 |
|
بس في شغل عاملها بتقوللي لا ايجف يعني هذا شخص ممكن |
|
|
|
434 |
|
00:34:49,180 --> 00:34:55,240 |
|
يكون غيره شو بيطلب مني هذا الكلام؟ خلصنا من ال |
|
|
|
435 |
|
00:34:55,240 --> 00:34:58,300 |
|
noise شو بيطلب مني هذا الكلام؟ انا الآن مش عارف |
|
|
|
436 |
|
00:34:58,300 --> 00:35:02,340 |
|
مين فيهم ال noise داتا اذا كانت بتتكلمي تمام؟ |
|
|
|
437 |
|
00:35:02,340 --> 00:35:04,540 |
|
ignore ال record ممتاز |
|
|
|
438 |
|
00:35:06,980 --> 00:35:10,280 |
|
طيب ليش ما تفكر انه ليش ما يكون في وزارة الصحة |
|
|
|
439 |
|
00:35:10,280 --> 00:35:15,060 |
|
مجدمين اسم العائلة مثلا يعني احنا هنعتمدنا على ال |
|
|
|
440 |
|
00:35:15,060 --> 00:35:17,500 |
|
first name هو اسم العائلة وبالتالي مازالين بس |
|
|
|
441 |
|
00:35:17,500 --> 00:35:21,140 |
|
اتحقق شو هو بقى الأسامي اللي موجودة انا أخدتها |
|
|
|
442 |
|
00:35:21,140 --> 00:35:25,860 |
|
الان انتبه انا بدي الاسم الأول او بدي ال full name |
|
|
|
443 |
|
00:35:25,860 --> 00:35:30,320 |
|
الان في حياة ال full name و ال full name مختلفين و |
|
|
|
444 |
|
00:35:30,320 --> 00:35:34,020 |
|
ال ID واحد لسه ما زلت انا بدي احاول اتشبث بال |
|
|
|
445 |
|
00:35:34,020 --> 00:35:38,850 |
|
recordو أخلّيه عندى بأكبر قدر ممكن باطلّع على باقي |
|
|
|
446 |
|
00:35:38,850 --> 00:35:45,530 |
|
مثلا باطلّع على ال age 17 17 إذا هل في common |
|
|
|
447 |
|
00:35:45,530 --> 00:35:49,910 |
|
attributes بين التنين بيأكدولي إن هذا هو نفسه هذا |
|
|
|
448 |
|
00:35:49,910 --> 00:35:53,810 |
|
ممكن أصيب أتجوز عن من؟ عن الإسم لأنه فعلا الإسم مش |
|
|
|
449 |
|
00:35:53,810 --> 00:35:57,690 |
|
هيخدمني بس أنا حاليا بدي أتأكد إن هذا real entity |
|
|
|
450 |
|
00:35:57,690 --> 00:36:01,910 |
|
موجودة عندى في ال data set هذه بنسميها ال entity |
|
|
|
451 |
|
00:36:01,910 --> 00:36:03,550 |
|
identification |
|
|
|
452 |
|
00:36:05,840 --> 00:36:08,740 |
|
الproblem ال value of conflict او ال value |
|
|
|
453 |
|
00:36:08,740 --> 00:36:17,860 |
|
conflict التعارض ما بين القيم لجيت عمره هان 17 و |
|
|
|
454 |
|
00:36:17,860 --> 00:36:27,520 |
|
هان لجيته 15 انا في الآخر هحتفظ ب one edge مظبوط؟ |
|
|
|
455 |
|
00:36:27,520 --> 00:36:32,840 |
|
يعني غالبا ال edge هان مش هجيب ليه طب باس مين فيهم |
|
|
|
456 |
|
00:36:32,840 --> 00:36:36,900 |
|
الصح؟الخمسة عشر ولا السبعتاشر؟ ال date of birth |
|
|
|
457 |
|
00:36:36,900 --> 00:36:43,760 |
|
هنا موجود قاللي والله انه تاريخ ميلاده هذا الفين |
|
|
|
458 |
|
00:36:43,760 --> 00:36:48,180 |
|
وخمسة واحنا الفين وعشرين ميلاده خمسة عشر ميلاده |
|
|
|
459 |
|
00:36:48,180 --> 00:36:52,240 |
|
الخطأ عندي هنا وهذا بتطلب برضه مني manual |
|
|
|
460 |
|
00:36:52,240 --> 00:36:56,860 |
|
correctness عشان اعدي ال level ممكن يكون عندي |
|
|
|
461 |
|
00:36:56,860 --> 00:37:01,120 |
|
indicatorطبعا لكن بيظل فيه احتمال ان هو فعليا ايش |
|
|
|
462 |
|
00:37:01,120 --> 00:37:04,600 |
|
يكون مثلا اتأخر سنة او رصب سنة او ما شابه لكن ال |
|
|
|
463 |
|
00:37:04,600 --> 00:37:08,140 |
|
date of birth كان بيقول لأ يا اما هو متأكد لان هو |
|
|
|
464 |
|
00:37:08,140 --> 00:37:12,420 |
|
بيقطفيه تقابق ما بين ال values ال redundant |
|
|
|
465 |
|
00:37:12,420 --> 00:37:21,100 |
|
teachers انا مافيش عندي ال age هنا لكن |
|
|
|
466 |
|
00:37:21,100 --> 00:37:26,140 |
|
عنديdate of birth تاريخ الميلاد لما انا اعمل |
|
|
|
467 |
|
00:37:26,140 --> 00:37:30,140 |
|
marriage تاريخ الميلاد هيجينيها ك attribute لكن |
|
|
|
468 |
|
00:37:30,140 --> 00:37:35,220 |
|
المعلومات اللي فيها موجودة عندى سابقا فبرضه انا |
|
|
|
469 |
|
00:37:35,220 --> 00:37:38,820 |
|
بدى أنتبه لها يعني في عندى تلت شغلات أساسية بدى |
|
|
|
470 |
|
00:37:38,820 --> 00:37:42,320 |
|
أنتبه لعندي عملية ال integration اتأكد من ال |
|
|
|
471 |
|
00:37:42,320 --> 00:37:46,020 |
|
identification لكل entity اللي فعليا ال entity |
|
|
|
472 |
|
00:37:46,020 --> 00:37:51,340 |
|
تقابل ال entity المقابلة بتاعتها بشكل صحيحالـ |
|
|
|
473 |
|
00:37:51,340 --> 00:37:54,300 |
|
value conflict أو الـ inconsistent اللي ممكن تصير |
|
|
|
474 |
|
00:37:54,300 --> 00:37:56,660 |
|
عندي زي ما صار معايا في الاسم أو صار معايا في ال |
|
|
|
475 |
|
00:37:56,660 --> 00:38:02,380 |
|
age وفي الآخر في ال redundant features أو في تكرار |
|
|
|
476 |
|
00:38:02,380 --> 00:38:08,060 |
|
ال attributes اللي موجودة عندي وبرضه الشغل هيكون |
|
|
|
477 |
|
00:38:08,060 --> 00:38:13,740 |
|
manual ممكن اكتب code عشان يعمل integration لو انت |
|
|
|
478 |
|
00:38:13,740 --> 00:38:17,820 |
|
طبقت عملت ال inner join بين ال two tables هدول ايش |
|
|
|
479 |
|
00:38:17,820 --> 00:38:24,280 |
|
اللي بصير؟بياخد ال rows بناء على ال ID ال ID |
|
|
|
480 |
|
00:38:24,280 --> 00:38:29,920 |
|
المختلف بين التنين مابيطلعش يعني تخيل ان هنا واحد |
|
|
|
481 |
|
00:38:29,920 --> 00:38:36,660 |
|
اتنين تلاتة تسعة مافيش هنا وهنا عندي واحد اتنين |
|
|
|
482 |
|
00:38:36,660 --> 00:38:42,860 |
|
تلاتة تمانية مش موجود هنا هذا ال row مش هيظهر وهذا |
|
|
|
483 |
|
00:38:42,860 --> 00:38:47,200 |
|
ال row مش هيظهر ولا لأ؟ ليش؟ لأن فعليا مافيش |
|
|
|
484 |
|
00:38:47,200 --> 00:38:51,220 |
|
integration ما بين ال rows اللي موجودةلكن لاحظوا |
|
|
|
485 |
|
00:38:51,220 --> 00:38:55,760 |
|
المشكلة دي انا ماعانيت منها مطلقا لما روحت جيبت |
|
|
|
486 |
|
00:38:55,760 --> 00:39:00,260 |
|
مصدر تاني للبيانات وصرت اجمعها عشان ازيد مين؟ عدد |
|
|
|
487 |
|
00:39:00,260 --> 00:39:04,000 |
|
الروز لان في الآخر انا جيبت من المدرسة الخاصة جيبت |
|
|
|
488 |
|
00:39:04,000 --> 00:39:08,180 |
|
ال name و ال age و ال level و ال GPA لمجموع الطلاب |
|
|
|
489 |
|
00:39:08,180 --> 00:39:13,120 |
|
عشان ازيد ازيد محصلة الروز اللي موجودة عندها |
|
|
|
490 |
|
00:39:19,090 --> 00:39:24,050 |
|
هننتقل الآن لموضوع الـ Data Transformation اللي هي |
|
|
|
491 |
|
00:39:24,050 --> 00:39:30,150 |
|
الخطوة الرب العد ايوة أهب تفضل اسأل مثلا زي |
|
|
|
492 |
|
00:39:30,150 --> 00:39:33,850 |
|
الميديا اللي جيت العالم الأول بسيط هجيته فعلا فعلا |
|
|
|
493 |
|
00:39:33,850 --> 00:39:37,070 |
|
هذا مثلا الإنسان بدري يعمل بحث زي هيك هل فعلا مهتم |
|
|
|
494 |
|
00:39:37,070 --> 00:39:41,430 |
|
في ال record زي ما هذا ولا بس انه اتعلم الصحيح؟ |
|
|
|
495 |
|
00:39:41,430 --> 00:39:45,210 |
|
شوفي أهب كل record بتضيفه على ال data set الأصل |
|
|
|
496 |
|
00:39:45,210 --> 00:39:49,450 |
|
بتضيف لك knowledge جديدة و بقوّي ال ruleأو الـ |
|
|
|
497 |
|
00:39:49,450 --> 00:39:52,550 |
|
predictors اللي انت بدك تنشئه عشان هيك فعليًا انت |
|
|
|
498 |
|
00:39:52,550 --> 00:39:58,150 |
|
محتاجه كل ما كانت عدد ال data set قليلة أو |
|
|
|
499 |
|
00:39:58,150 --> 00:40:05,170 |
|
المعلومات اللي عندك قليلة انت بحاجة لأي .. أي شغل |
|
|
|
500 |
|
00:40:05,170 --> 00:40:08,730 |
|
بتعزز البيانات اللي موجودة عندك حتى لو one record |
|
|
|
501 |
|
00:40:08,730 --> 00:40:13,270 |
|
بدك تضيفه لكن ال data set اللي عندي حجمها 100 ألف |
|
|
|
502 |
|
00:40:13,270 --> 00:40:17,950 |
|
recordولا جيت عشرة record أو ميت record أو ألف |
|
|
|
503 |
|
00:40:17,950 --> 00:40:23,870 |
|
record في مكان ما مش ضروري أفكر فيهم كتير إذا أنا |
|
|
|
504 |
|
00:40:23,870 --> 00:40:26,450 |
|
واثق في البيانات اللي عندي لكن لو كانوا الألف |
|
|
|
505 |
|
00:40:26,450 --> 00:40:30,110 |
|
record هدول بمثله حالة خاصة وانا بدي أدرجها في |
|
|
|
506 |
|
00:40:30,110 --> 00:40:33,090 |
|
النظام تبعتي لازم أعملها integration للميت ألف |
|
|
|
507 |
|
00:40:33,090 --> 00:40:37,890 |
|
اللي عندي وصيروا ميت ألف وواحد تمام؟ أو مية وواحد |
|
|
|
508 |
|
00:40:37,890 --> 00:40:42,570 |
|
ألف في موضوع ال transfer .. في أي شباب عنده .. |
|
|
|
509 |
|
00:40:42,570 --> 00:40:48,020 |
|
شباب في حد عنده أي سؤال تانيهننتقل لموضوع أو نكمل |
|
|
|
510 |
|
00:40:48,020 --> 00:40:51,100 |
|
في ال steps و بنحاول إن شاء الله الأسبوع هذا ننهي |
|
|
|
511 |
|
00:40:51,100 --> 00:40:53,540 |
|
ال chapter اللي احنا بنشتغل فيه لأنه صارنا قداشة |
|
|
|
512 |
|
00:40:53,540 --> 00:40:55,320 |
|
هذا الأسبوع التالت و احنا بنخد في ال data |
|
|
|
513 |
|
00:40:55,320 --> 00:40:58,620 |
|
understanding و ال preparation فبديش ياخد تحسه |
|
|
|
514 |
|
00:40:58,620 --> 00:41:03,540 |
|
بالملل فبنروح باتجاه ال mining إن شاء الله الآن في |
|
|
|
515 |
|
00:41:03,540 --> 00:41:07,900 |
|
ال data transformation المقصود فيها تحويل أو تحوير |
|
|
|
516 |
|
00:41:07,900 --> 00:41:14,330 |
|
البيانات من formمن صورتها الحالية اللى تظهر بصورة |
|
|
|
517 |
|
00:41:14,330 --> 00:41:19,910 |
|
تتناسب مع ال mining task عاما اللى احنا بنقول بقول |
|
|
|
518 |
|
00:41:19,910 --> 00:41:22,430 |
|
انا في عندى تاريخ الميلاد يا جماعة الخير date of |
|
|
|
519 |
|
00:41:22,430 --> 00:41:22,750 |
|
birth |
|
|
|
520 |
|
00:41:27,040 --> 00:41:30,680 |
|
القيم اللي موجودة فيه .. القيم اللي موجودة فيه |
|
|
|
521 |
|
00:41:30,680 --> 00:41:35,760 |
|
بتقول إذا أنا بدي أبني decision rules هيكون عندي |
|
|
|
522 |
|
00:41:35,760 --> 00:41:39,580 |
|
ال values كتيرة لأنه انولد في شهر واحد غير ان |
|
|
|
523 |
|
00:41:39,580 --> 00:41:42,320 |
|
انولد في شهر اتنين في عندى تلاتين خيار في شهر واحد |
|
|
|
524 |
|
00:41:43,080 --> 00:41:49,060 |
|
و28 في شهر 2 و 31 في شهر 3، مصبوط؟ معناته على مدار |
|
|
|
525 |
|
00:41:49,060 --> 00:41:53,500 |
|
السنة، يعني أنا بتكلم هيك وكأنه وكأنه عندي 365 |
|
|
|
526 |
|
00:41:53,500 --> 00:41:59,420 |
|
variable أو value بدها تدخل في ال decision rules |
|
|
|
527 |
|
00:41:59,420 --> 00:42:04,480 |
|
تبعي هذاهذا الكلام مش منطق بينما كل الناس اللي في |
|
|
|
528 |
|
00:42:04,480 --> 00:42:08,680 |
|
مستوى أول مثلا أو في فئة الجامعة هدولة فئة واحدة |
|
|
|
529 |
|
00:42:08,680 --> 00:42:12,260 |
|
طلاب المدارس في الثانوية فئة تانية اللي من الإعداد |
|
|
|
530 |
|
00:42:12,260 --> 00:42:16,880 |
|
يو انزل فئة تالتة الخرجين فئة رابعة فهذه الفئات |
|
|
|
531 |
|
00:42:16,880 --> 00:42:22,740 |
|
تاريخ الميلاد هذا مابكفنيش يا راني تاريخ الميلاد |
|
|
|
532 |
|
00:42:22,740 --> 00:42:27,460 |
|
هذا مابنفعنيش فانا محتاج ان اغير صورة تاريخ |
|
|
|
533 |
|
00:42:27,460 --> 00:42:28,120 |
|
الميلاد |
|
|
|
534 |
|
00:42:34,920 --> 00:42:42,620 |
|
الى age بال age بكون انا عملت ايش قللت ال value |
|
|
|
535 |
|
00:42:42,620 --> 00:42:46,360 |
|
اللى موجودة قللت ال value اللى موجودة عندى |
|
|
|
536 |
|
00:42:46,360 --> 00:42:53,260 |
|
وبالتالي قللت ال decision rules تبعتي لكن لاحظ ان |
|
|
|
537 |
|
00:42:53,260 --> 00:42:56,840 |
|
تاريخ الميلاد و ال age اللى كتب معاه نفسه من ال |
|
|
|
538 |
|
00:42:56,840 --> 00:43:04,190 |
|
2005 و كتبت ال age 15 مافقدتش المعلومة تبعتيمصبوب؟ |
|
|
|
539 |
|
00:43:04,190 --> 00:43:07,090 |
|
والأفضل من هيك لو جسمتم لفئات زي ما هنشوف كمان |
|
|
|
540 |
|
00:43:07,090 --> 00:43:13,110 |
|
شوية فمن ال data transformation method ل smoothing |
|
|
|
541 |
|
00:43:13,110 --> 00:43:19,430 |
|
method لما عملت pinning عبارة عن smoothing method |
|
|
|
542 |
|
00:43:19,430 --> 00:43:24,190 |
|
ال regression smoothing method بس هدفها الأساسي |
|
|
|
543 |
|
00:43:24,190 --> 00:43:30,110 |
|
تخلص من ال noise واحد يقول ليه ال smoothing |
|
|
|
544 |
|
00:43:30,110 --> 00:43:33,650 |
|
حطيناها من ال transformation؟ال data أخدت صور |
|
|
|
545 |
|
00:43:33,650 --> 00:43:38,150 |
|
مختلفة البن الأولى أخدت قيمة بدل كل القيم اللي |
|
|
|
546 |
|
00:43:38,150 --> 00:43:42,810 |
|
كانت في البن ايش أخدت؟ أخدت ال median او أخدت ال |
|
|
|
547 |
|
00:43:42,810 --> 00:43:47,870 |
|
mean أربعة فبالتالي القيم تغيرت كانت شكل وصارت شكل |
|
|
|
548 |
|
00:43:47,870 --> 00:43:54,190 |
|
آخر ال values اللي عندي كانت 17 مليون |
|
|
|
549 |
|
00:43:57,970 --> 00:44:01,050 |
|
الأرقام هذه كبيرة ما بتتناسبش مع ال computation |
|
|
|
550 |
|
00:44:01,050 --> 00:44:06,770 |
|
تبعتي فانا بدي أخليها 1.7 كذلك ال 18 وال 20 مليون |
|
|
|
551 |
|
00:44:06,770 --> 00:44:13,410 |
|
ال 20 صارت 2 و ال 1.5 صارت 15 و هكذا فهذا التحوير |
|
|
|
552 |
|
00:44:13,410 --> 00:44:18,170 |
|
ال data كانت في صورة وصارت في صورة مختلفة |
|
|
|
553 |
|
00:44:22,870 --> 00:44:26,570 |
|
God كان بهدف التخلص من الـ Noise، تمام؟ لكن |
|
|
|
554 |
|
00:44:26,570 --> 00:44:30,010 |
|
فعليًا، فعليًا الـ Data اللي صارت موجودة في الـ |
|
|
|
555 |
|
00:44:30,010 --> 00:44:35,310 |
|
Attribute هي عبارة عن New Transformation، تحور للـ |
|
|
|
556 |
|
00:44:35,310 --> 00:44:38,830 |
|
Data، مصدورة لا لأ؟ ضالت الـ Original Data؟ لأ، |
|
|
|
557 |
|
00:44:38,830 --> 00:44:41,750 |
|
فعليًا صار عليها تحور، عشان هيك ذكرناها أول واحدة، |
|
|
|
558 |
|
00:44:41,750 --> 00:44:46,370 |
|
لأنها مرت علينا سابقًا الـ Aggregation، أنا فعليًا |
|
|
|
559 |
|
00:44:46,370 --> 00:44:50,810 |
|
ممكن أروح أضيف أو أعمل شغلات، يعني الآن بروح بقولي |
|
|
|
560 |
|
00:44:50,810 --> 00:44:56,410 |
|
والله بدنا نحسبان نحاول نتنبأ ان الموظف الحكومي |
|
|
|
561 |
|
00:44:56,410 --> 00:45:05,490 |
|
بعد كام سنة ممكن يشتري بيت يا |
|
|
|
562 |
|
00:45:05,490 --> 00:45:09,940 |
|
عم الله يرزق الجميع من فضله ان شاء اللهأنا عند |
|
|
|
563 |
|
00:45:09,940 --> 00:45:14,120 |
|
الراتب الشهري لكن عادة الراتب الشهري مبلغ قليل |
|
|
|
564 |
|
00:45:14,120 --> 00:45:17,620 |
|
ماحدش بدور عليه في التعاملات اللي زي هذه بروح بده |
|
|
|
565 |
|
00:45:17,620 --> 00:45:21,620 |
|
الراتب السنوي طب أنا ماعنديش الراتب السنوي عند بس |
|
|
|
566 |
|
00:45:21,620 --> 00:45:27,000 |
|
الراتب الشهري بأضربه ب12 بأضربه ب12 مظبوط؟ ايش |
|
|
|
567 |
|
00:45:27,000 --> 00:45:30,800 |
|
سويت .. كل السنوات و أنا عملية ضرب بس فعليا نقلت |
|
|
|
568 |
|
00:45:30,800 --> 00:45:36,070 |
|
ال dataمن Range وحطتليها في Range مختلف وهذه برضه |
|
|
|
569 |
|
00:45:36,070 --> 00:45:39,210 |
|
Transformation فنسميها احنا Aggregation |
|
|
|
570 |
|
00:45:39,210 --> 00:45:42,450 |
|
Transformation او Aggregate Transformation |
|
|
|
571 |
|
00:45:42,450 --> 00:45:46,530 |
|
Generalization لما انا بأتكلم ان ال data ال set |
|
|
|
572 |
|
00:45:46,530 --> 00:45:53,330 |
|
تبعت فيه تتبع Hierarchy معينة زي ايش انا في عند ال |
|
|
|
573 |
|
00:45:53,330 --> 00:46:00,930 |
|
country وفي عندي ال set ال state وعندي |
|
|
|
574 |
|
00:46:02,180 --> 00:46:08,860 |
|
الـ city وعندي ال neighborhood الحي |
|
|
|
575 |
|
00:46:08,860 --> 00:46:18,100 |
|
وعندي ال street مثلا شو |
|
|
|
576 |
|
00:46:18,100 --> 00:46:24,100 |
|
علقت هدول في بعض الشارع عنوان تفصيل العنوان الشارع |
|
|
|
577 |
|
00:46:24,100 --> 00:46:27,040 |
|
موجود في حي و الحي موجود في مدينة و المدينة موجود |
|
|
|
578 |
|
00:46:27,040 --> 00:46:32,290 |
|
في ولاية و الولاية بتتبع دولةأنا الآن العنوان اللي |
|
|
|
579 |
|
00:46:32,290 --> 00:46:39,890 |
|
موجود عندي مكتوب لحالة مستوى الشارع غزة |
|
|
|
580 |
|
00:46:39,890 --> 00:46:45,010 |
|
الرمال شارع عمرو بن عبدالعزيز هذا بس عشان يُنذَكر |
|
|
|
581 |
|
00:46:45,010 --> 00:46:52,070 |
|
خلال اليومين الماضيات في الخبار طبعا؟ الآن طب هل |
|
|
|
582 |
|
00:46:52,070 --> 00:46:55,150 |
|
التفاصيل هذه بهمني أنا؟ طب ما هي ال redundant |
|
|
|
583 |
|
00:46:55,150 --> 00:47:00,180 |
|
value أو عفوا القيم الكتيرة المختلفة هذه؟برضه |
|
|
|
584 |
|
00:47:00,180 --> 00:47:03,060 |
|
بتصعب موضوع ال decision تبعتي طبما هي الرمال كلها |
|
|
|
585 |
|
00:47:03,060 --> 00:47:09,420 |
|
منطقة واحدة فانا بدي استغني عن ال street واصير |
|
|
|
586 |
|
00:47:09,420 --> 00:47:13,760 |
|
اتكلم على ال neighborhood وحتى ال neighborhood مش |
|
|
|
587 |
|
00:47:13,760 --> 00:47:19,660 |
|
فارج كبير رمال وشجعية مش فارج كتير تمام فانا هضطر |
|
|
|
588 |
|
00:47:21,060 --> 00:47:24,080 |
|
لاحظ انه لما انا بتكلم على transformation يا جماعة |
|
|
|
589 |
|
00:47:24,080 --> 00:47:27,020 |
|
الخير لاحظوا يا جماعة الخير انه لما انا بأعمل |
|
|
|
590 |
|
00:47:27,020 --> 00:47:33,720 |
|
transformation بحول ال value من street ل |
|
|
|
591 |
|
00:47:33,720 --> 00:47:38,340 |
|
neighborhood او ل city فقدت معلوماتش ايه؟ لأ هي |
|
|
|
592 |
|
00:47:38,340 --> 00:47:41,220 |
|
نفس المعلومات نفس ال representation بس انا مش |
|
|
|
593 |
|
00:47:41,220 --> 00:47:44,200 |
|
بحاجة ل two details هاي هذا برضه بنسميه |
|
|
|
594 |
|
00:47:44,200 --> 00:47:48,810 |
|
transformationالـ Normalization الـ Normalization |
|
|
|
595 |
|
00:47:48,810 --> 00:47:56,310 |
|
فعليًا أنا بده أروح أعمل Scaling لل Data Scaling |
|
|
|
596 |
|
00:47:56,310 --> 00:47:59,710 |
|
زي ما قلنا 17 مليون أو الأرقام اللي عندي كبيرة |
|
|
|
597 |
|
00:47:59,710 --> 00:48:03,130 |
|
فبده أروح أقللها أو بده أحطه ضمن Range معين وهنا |
|
|
|
598 |
|
00:48:03,130 --> 00:48:07,910 |
|
بدنا عمليات حسابية وهذه هروح لها بتفاصيل الآن الـ |
|
|
|
599 |
|
00:48:07,910 --> 00:48:11,330 |
|
Attribute Construction زي ما قلت أنا عندي تاريخ |
|
|
|
600 |
|
00:48:11,330 --> 00:48:14,810 |
|
الميلادو تاريخ الميلاد مابديش ايه بديش إياه بدي |
|
|
|
601 |
|
00:48:14,810 --> 00:48:20,030 |
|
أحط ال age أو بدي أبني الفئة العمرية و كل التفاصيل |
|
|
|
602 |
|
00:48:20,030 --> 00:48:25,450 |
|
هاي كلها عبارة عن different transformation لل data |
|
|
|
603 |
|
00:48:25,450 --> 00:48:31,030 |
|
كمان مرة transformation لا يعني إن أنا القيمة |
|
|
|
604 |
|
00:48:31,030 --> 00:48:35,150 |
|
تغيرت الجوهر ال value موجود لكن الصورة اللي ظهرت |
|
|
|
605 |
|
00:48:35,150 --> 00:48:37,950 |
|
عليها مختلفة |
|
|
|
606 |
|
00:48:38,930 --> 00:48:44,390 |
|
طيب، الآن بدنا نروح على الـ Transformation اللي له |
|
|
|
607 |
|
00:48:44,390 --> 00:48:47,190 |
|
علاقة بالـ Normalization لأن هنا في عندي |
|
|
|
608 |
|
00:48:47,190 --> 00:48:50,770 |
|
Mathematical Forms لازم أفهمها كويس و أفهم النتيجة |
|
|
|
609 |
|
00:48:50,770 --> 00:48:53,910 |
|
من كل واحدة فيهم كل الكلام اللي احنا قلناه سابقا |
|
|
|
610 |
|
00:48:53,910 --> 00:48:57,380 |
|
جربنا ال smoothingوالـ aggregation بسيطة هي عبارة |
|
|
|
611 |
|
00:48:57,380 --> 00:49:00,480 |
|
عن computation بسيطة ممكن تصير موجودة عندي و ال |
|
|
|
612 |
|
00:49:00,480 --> 00:49:03,420 |
|
generalization مافيش عليها شغل كتير زي ما احنا |
|
|
|
613 |
|
00:49:03,420 --> 00:49:07,080 |
|
شوفناه الآن ال attribute construction برضه عبارة |
|
|
|
614 |
|
00:49:07,080 --> 00:49:09,920 |
|
عن attribute جديد بدي انبنى بناء على values موجودة |
|
|
|
615 |
|
00:49:09,920 --> 00:49:15,360 |
|
مسبقا الان ال normalization هذه تقريبا أصعبهم و |
|
|
|
616 |
|
00:49:15,360 --> 00:49:20,530 |
|
بدنا نشتغل علىبشكل جيد لكن لأ أخفيكوا أنا الصحيح |
|
|
|
617 |
|
00:49:20,530 --> 00:49:23,810 |
|
اللي اليوم الصبح غيرت في ال slides فاللي طاب عليه |
|
|
|
618 |
|
00:49:23,810 --> 00:49:26,670 |
|
slide بيغينه الله بس ال slides هدول بدهم تعديل |
|
|
|
619 |
|
00:49:26,670 --> 00:49:32,910 |
|
ايوة |
|
|
|
620 |
|
00:49:32,910 --> 00:49:37,370 |
|
الان كويس عند أحمد فروخي بيسأل سؤال مهم جدا يا |
|
|
|
621 |
|
00:49:37,370 --> 00:49:45,030 |
|
شباب الان موضوع ال normalization اللي احنا أخدناه |
|
|
|
622 |
|
00:49:45,030 --> 00:49:49,880 |
|
في ال databaseفي database واحد ايش كان الهدف منه |
|
|
|
623 |
|
00:49:49,880 --> 00:49:52,960 |
|
انه |
|
|
|
624 |
|
00:49:52,960 --> 00:49:55,980 |
|
نقل شويه بس عشان اجيب لكياب تعريفي وطابق الكلام |
|
|
|
625 |
|
00:49:55,980 --> 00:49:59,260 |
|
اللي احنا بدنا يهان هو مش بعيد عنه هو عبارة عن كان |
|
|
|
626 |
|
00:49:59,260 --> 00:50:05,080 |
|
هدفه نقل ال data analysis تبعتي ال initial data |
|
|
|
627 |
|
00:50:05,080 --> 00:50:12,840 |
|
analysis الى other stage بتمنع التكرار، مصبوط؟بس |
|
|
|
628 |
|
00:50:12,840 --> 00:50:16,020 |
|
لاحظ في الأول كانت form كانت عبارة عن single |
|
|
|
629 |
|
00:50:16,020 --> 00:50:19,760 |
|
entity وفي ال form التاني في ال second normal form |
|
|
|
630 |
|
00:50:19,760 --> 00:50:24,020 |
|
اضطرت اعمل partitioning لأكتر من entity عشان اعمل |
|
|
|
631 |
|
00:50:24,020 --> 00:50:28,540 |
|
بينهماش أضمن عدم اتكرار ولا لأ مش هذا اللي صار ال |
|
|
|
632 |
|
00:50:28,540 --> 00:50:33,200 |
|
transformation اللي صار هذا هو نفسه او ال |
|
|
|
633 |
|
00:50:33,200 --> 00:50:35,620 |
|
normalization هو عبارة عن جزء من ال transformation |
|
|
|
634 |
|
00:50:35,620 --> 00:50:39,160 |
|
جزء من التحول هل التحول كله مش ضروري هالكلام اللي |
|
|
|
635 |
|
00:50:39,160 --> 00:50:41,680 |
|
احنا بيقوله فبالتالي مافيش تعرضات ما بين التانين |
|
|
|
636 |
|
00:50:41,680 --> 00:50:46,170 |
|
يا أحمدالأن في الـ Normalization اللي هتتكلم عليها |
|
|
|
637 |
|
00:50:46,170 --> 00:50:50,690 |
|
أو في الـ Scaling بالتحديد طبعا Normalization أو |
|
|
|
638 |
|
00:50:50,690 --> 00:50:54,090 |
|
Scaling نفس المصطلحات في علم البيانات أو في الـ |
|
|
|
639 |
|
00:50:54,090 --> 00:50:59,610 |
|
Data Mining بنتكلم إنه أنا بدي أروح أغير ال data |
|
|
|
640 |
|
00:50:59,610 --> 00:51:07,630 |
|
range تبعتي و عادة عادة بقى اتوجه إن أغير ال range |
|
|
|
641 |
|
00:51:07,630 --> 00:51:12,730 |
|
ل range أصغريعني بدل ما كانت الأرقام رواتب |
|
|
|
642 |
|
00:51:12,730 --> 00:51:23,770 |
|
الموظفين من 17 .. او من .. من 1770 مليون لـ 370 |
|
|
|
643 |
|
00:51:23,770 --> 00:51:28,430 |
|
مليون اه |
|
|
|
644 |
|
00:51:28,430 --> 00:51:33,690 |
|
بالليرة .. هذا الكلام وارد جدا مصبوط؟ |
|
|
|
645 |
|
00:51:33,690 --> 00:51:37,470 |
|
بدل ما هذا ال range بتروح اخليه يجع في range من |
|
|
|
646 |
|
00:51:37,470 --> 00:51:46,730 |
|
واحدلعشرة مثلا أو بدي أخلي من واحد وسبعة من عشرة |
|
|
|
647 |
|
00:51:46,730 --> 00:51:55,810 |
|
لتلاتة فاصلة سبعة الان في ال computation مين أسهل |
|
|
|
648 |
|
00:51:55,810 --> 00:52:03,890 |
|
الرقم هذا ولا الرقم هذا المفروض |
|
|
|
649 |
|
00:52:03,890 --> 00:52:04,930 |
|
الرقم الأصغر أسهل |
|
|
|
650 |
|
00:52:08,520 --> 00:52:11,180 |
|
كمان مرة مفهوم الـ Normalization ان انا بدي اعمل |
|
|
|
651 |
|
00:52:11,180 --> 00:52:14,780 |
|
scaling لل data او لل attributes اللي عندى هاي |
|
|
|
652 |
|
00:52:14,780 --> 00:52:18,840 |
|
بحيث ان احطها في different range و عادة .. عادة |
|
|
|
653 |
|
00:52:18,840 --> 00:52:24,140 |
|
اكثر من 95% او 99% من الشغل في ال hand انه انا بحط |
|
|
|
654 |
|
00:52:24,140 --> 00:52:28,040 |
|
ال range ل range اصغر لكن هذا لا يمنع .. لا يمنع |
|
|
|
655 |
|
00:52:28,040 --> 00:52:32,980 |
|
مطلقا انه افكر احطها في range اكبر منها و عادة يا |
|
|
|
656 |
|
00:52:32,980 --> 00:52:37,840 |
|
جماعة الخير تخيل انه انا في عندى two attributes |
|
|
|
657 |
|
00:52:46,020 --> 00:52:51,060 |
|
attribute one و attribute two ال values اللي عندي |
|
|
|
658 |
|
00:52:51,060 --> 00:52:56,400 |
|
هان بتتراوح |
|
|
|
659 |
|
00:52:56,400 --> 00:53:02,320 |
|
من الصفر للواحد و ال attribute التاني هذا من مية |
|
|
|
660 |
|
00:53:02,320 --> 00:53:08,300 |
|
إلى الف خليك معاه سيبر |
|
|
|
661 |
|
00:53:11,420 --> 00:53:14,460 |
|
عشان تفهم حاجتنا للـ Normalization أو للـ Scaling |
|
|
|
662 |
|
00:53:14,460 --> 00:53:19,540 |
|
تخيل إنه أنا في عندي data set فيها two attributes |
|
|
|
663 |
|
00:53:19,540 --> 00:53:24,740 |
|
الأول بتراوح القيم المتخلفة اللي في من صفر لواحد |
|
|
|
664 |
|
00:53:24,740 --> 00:53:32,160 |
|
والتاني من مية لألف و جيت أنا قلتلك بدي task بسيطة |
|
|
|
665 |
|
00:53:32,160 --> 00:53:39,700 |
|
جدا منك ترسمليهم على الـ 2D plane شو |
|
|
|
666 |
|
00:53:39,700 --> 00:53:44,680 |
|
رأيك؟كيف ال scale تبعك اللي هتستخدمه في الرسم؟ |
|
|
|
667 |
|
00:53:44,680 --> 00:53:48,700 |
|
الان |
|
|
|
668 |
|
00:53:48,700 --> 00:53:52,420 |
|
كمان مرة شو رايك هاي ال .. هاي ال two attributes و |
|
|
|
669 |
|
00:53:52,420 --> 00:53:57,020 |
|
بدك ترسملياهم على two D plane مالهاش علاقة بال |
|
|
|
670 |
|
00:53:57,020 --> 00:54:02,560 |
|
mining الآن، تمام؟ شو ال scale اللي بدك تستخدمه؟ |
|
|
|
671 |
|
00:54:02,560 --> 00:54:07,180 |
|
بدك تستخدم واحد، اتنين، تلاتة، اربعة، خمسة، ستة؟ |
|
|
|
672 |
|
00:54:07,180 --> 00:54:15,250 |
|
ولا واحد من عشرة؟ولّا مية؟ ممتاز إذا أنت أخدت |
|
|
|
673 |
|
00:54:15,250 --> 00:54:18,790 |
|
المية إذا أخدت المية يعني الصحيحة التهان من صفر |
|
|
|
674 |
|
00:54:18,790 --> 00:54:24,550 |
|
لمية كل ال values تبعة ال attribute هذا هتيجيك في |
|
|
|
675 |
|
00:54:24,550 --> 00:54:27,950 |
|
النقطة هاي هتيجيك وكأنه معمود في النقطة هاي مش |
|
|
|
676 |
|
00:54:27,950 --> 00:54:32,970 |
|
هيبينه ليش؟ لأنه ال range تبعك اللي إنت اعتمدت لها |
|
|
|
677 |
|
00:54:32,970 --> 00:54:38,250 |
|
يا تناسب وإذا اعتمدت واحد من عشرة المية هتيجي هنا |
|
|
|
678 |
|
00:54:40,520 --> 00:54:43,140 |
|
مصبوط؟ وبالتالي مافيش مجال الرسم inconsistent |
|
|
|
679 |
|
00:54:43,140 --> 00:54:49,400 |
|
حيكون أو مش هتقدر ترسمهم من الآخر مافيش الحل ان |
|
|
|
680 |
|
00:54:49,400 --> 00:54:54,020 |
|
بدي أعمل معيار للرسم بين الاتنين إما بدي أنزل هذا |
|
|
|
681 |
|
00:54:54,020 --> 00:54:57,920 |
|
لنفس ال scale أو بدي أرفع هذا لنفس ال scale اللي |
|
|
|
682 |
|
00:54:57,920 --> 00:55:05,780 |
|
موجود وعلى الحالتين صح مين الأسهل؟ أنزل قول بدي |
|
|
|
683 |
|
00:55:05,780 --> 00:55:12,420 |
|
أجسمه علىعالمية بيصير هذا واحد و هذا عشرة لاحظ ال |
|
|
|
684 |
|
00:55:12,420 --> 00:55:20,520 |
|
range لأ بقى يختلف صفر ل واحد و واحدة عشرة نوعا ما |
|
|
|
685 |
|
00:55:20,520 --> 00:55:23,840 |
|
قريب لكن برضه ممكن انا ايش راح اساوي احط بنفس ال |
|
|
|
686 |
|
00:55:23,840 --> 00:55:26,580 |
|
range بديش اجسم على عالمية انا اجسم على الف |
|
|
|
687 |
|
00:55:33,500 --> 00:55:37,500 |
|
صار عند إيش؟ نفس ال scale exactly و أنا مافقدتش من |
|
|
|
688 |
|
00:55:37,500 --> 00:55:42,320 |
|
قيمة البيانات ولا حاجة هذا الكلام نفسه .. نفسه |
|
|
|
689 |
|
00:55:42,320 --> 00:55:45,440 |
|
بهمني لما يكون ال algorithm تبعي ال machine |
|
|
|
690 |
|
00:55:45,440 --> 00:55:47,920 |
|
learning algorithm اللي بيشتغل في ال mining task |
|
|
|
691 |
|
00:55:47,920 --> 00:55:51,900 |
|
تكون data set أو attribute ال values تبعته صغيرة |
|
|
|
692 |
|
00:55:51,900 --> 00:55:56,480 |
|
جدا و ال attribute التاني ال value تبعته كبيرة جدا |
|
|
|
693 |
|
00:55:57,410 --> 00:56:00,830 |
|
تبقى عندي mismatch في التعامل فأفضل حاجة ايش أسوي |
|
|
|
694 |
|
00:56:00,830 --> 00:56:04,510 |
|
ان احاول اعمل normalization لكل ال data تكون كلها |
|
|
|
695 |
|
00:56:04,510 --> 00:56:10,090 |
|
على range واحد فال scaling هذه او ال normalization |
|
|
|
696 |
|
00:56:10,090 --> 00:56:14,810 |
|
هذه مهمة جدا بالنسبالنا ال |
|
|
|
697 |
|
00:56:14,810 --> 00:56:18,390 |
|
z score او ال normalization او ال zero score |
|
|
|
698 |
|
00:56:18,390 --> 00:56:22,510 |
|
normalization او زي ما بتسميها ال python standard |
|
|
|
699 |
|
00:56:22,510 --> 00:56:25,550 |
|
scalar standard scalar |
|
|
|
700 |
|
00:56:28,890 --> 00:56:32,550 |
|
في عند الـ Min Max Normalization أو Min Max Scalar |
|
|
|
701 |
|
00:56:32,550 --> 00:56:37,450 |
|
وفي عند الـ Decimal Scalar أو Decimal Scaling أو |
|
|
|
702 |
|
00:56:37,450 --> 00:56:43,030 |
|
Decimal Normalization نبدأ مع الـ Zero Score أو مع |
|
|
|
703 |
|
00:56:43,030 --> 00:56:47,070 |
|
الـ Z Min أو الـ Z Score كلها نفس المصطلحات أو نفس |
|
|
|
704 |
|
00:56:47,070 --> 00:56:51,590 |
|
العنصر Standard Scalar بتكلم على الـ Zero Min |
|
|
|
705 |
|
00:56:51,590 --> 00:56:57,270 |
|
Normalization Zero Min Normalization مفهومها بكل |
|
|
|
706 |
|
00:56:57,270 --> 00:57:03,450 |
|
بساطة يا جماعة الخيرانه احنا فعليا بحاجة طبعا عشان |
|
|
|
707 |
|
00:57:03,450 --> 00:57:05,650 |
|
في مثال انا كتبته عند الطالبات المحاضرة الجابه |
|
|
|
708 |
|
00:57:05,650 --> 00:57:08,470 |
|
اللي بدي اياه نفسه مافيش داعي ان اختار مثال جديد |
|
|
|
709 |
|
00:57:08,470 --> 00:57:15,470 |
|
مفهومها انه بدي احول ال attribute هذا ل attribute |
|
|
|
710 |
|
00:57:15,470 --> 00:57:19,110 |
|
او ل value احور ال data اللي فيه ل value مختلفة |
|
|
|
711 |
|
00:57:19,110 --> 00:57:24,590 |
|
بحيث ان المتوسط الحسابي تبع ال new form يكون صفر |
|
|
|
712 |
|
00:57:24,590 --> 00:57:30,160 |
|
عشان هيك اسمه z من ال zeroأو Z-Mean، Zero-Mean، |
|
|
|
713 |
|
00:57:30,160 --> 00:57:34,460 |
|
Zero-Score أو Zero-Mean مفهومها إنه بعد ما أنا |
|
|
|
714 |
|
00:57:34,460 --> 00:57:40,100 |
|
أحور الـAttribute أحور الـAttribute، بده يكون |
|
|
|
715 |
|
00:57:40,100 --> 00:57:44,460 |
|
الـMean تبعه صفر ليش هذا الكلام مهم؟ لأنه كتير من |
|
|
|
716 |
|
00:57:44,460 --> 00:57:47,420 |
|
العمليات الحسابية المرتبطة بالـ Machine Learning |
|
|
|
717 |
|
00:57:47,420 --> 00:57:50,700 |
|
Algorithm لها علاقة بالـMean والـStandard |
|
|
|
718 |
|
00:57:50,700 --> 00:57:56,610 |
|
Deviation فإذا أنا قدرت أحول الـMean لـ0فبتصير |
|
|
|
719 |
|
00:57:56,610 --> 00:58:03,110 |
|
العمليات الحسابية تبعتي أسهل ما يمكن لو أنت بقيت |
|
|
|
720 |
|
00:58:03,110 --> 00:58:06,810 |
|
تضرب بصفر خلاص بس ال term اللي أنا جدت فيه term |
|
|
|
721 |
|
00:58:06,810 --> 00:58:10,370 |
|
صفر خلصنا لو بدي أجمع صفر مع أن مافيش عندي تغيير |
|
|
|
722 |
|
00:58:10,370 --> 00:58:14,770 |
|
وهذا هو الهدف الأساسي من ال normalization هنا إنه |
|
|
|
723 |
|
00:58:14,770 --> 00:58:17,970 |
|
أنا عامة في ال transformation عمالي بحاول أبدأ |
|
|
|
724 |
|
00:58:17,970 --> 00:58:22,070 |
|
أقلل من ال cost أو ال computational cost اللي ممكن |
|
|
|
725 |
|
00:58:22,070 --> 00:58:27,930 |
|
تصير عنديفالـ Zero mean أو الـ Z-score هدفها أنه |
|
|
|
726 |
|
00:58:27,930 --> 00:58:31,890 |
|
للـ feature هذا تكون قيمة الـ mean المتوسط الحسابي |
|
|
|
727 |
|
00:58:31,890 --> 00:58:38,670 |
|
صفر و ال variance أو الانحراف المعياري تبعته جداش |
|
|
|
728 |
|
00:58:38,670 --> 00:58:46,410 |
|
واحد عبر المعادلة اللي موجودة عندنا هنا طبعا ميزة |
|
|
|
729 |
|
00:58:46,410 --> 00:58:50,370 |
|
ال scaling هذا انه مافيش minimum و مافيش maximum |
|
|
|
730 |
|
00:58:50,370 --> 00:58:54,480 |
|
لكن بتروح تتطبق حسب القانونالقيمة الجديدة اللي هي |
|
|
|
731 |
|
00:58:54,480 --> 00:59:00,840 |
|
الـ Z تساوي القيمة السابقة X ناقص المتوسط الحسابي |
|
|
|
732 |
|
00:59:00,840 --> 00:59:06,660 |
|
على الانحراف المعياري تبعت ال value اللي موجودة |
|
|
|
733 |
|
00:59:06,660 --> 00:59:12,240 |
|
عندها عشان تظهر الصورة الأرقام اللي عندي أنا عشرة |
|
|
|
734 |
|
00:59:12,240 --> 00:59:18,000 |
|
خمس طعش عشرة خمس طعش عشرين |
|
|
|
735 |
|
00:59:24,250 --> 00:59:27,910 |
|
هذه الـ A original الـ attribute O الـ attribute |
|
|
|
736 |
|
00:59:27,910 --> 00:59:33,030 |
|
الأصلي ال values اللي فيه ال values اللي فيه تمام |
|
|
|
737 |
|
00:59:33,030 --> 00:59:38,590 |
|
هايهم خمس قيم عشان أقدر أشتغل مع هذا أو أطبق عليه |
|
|
|
738 |
|
00:59:38,590 --> 00:59:43,910 |
|
ال Z score شو بدي أساوي؟ بدي أحسب المتوسط الحسابي |
|
|
|
739 |
|
00:59:43,910 --> 00:59:50,250 |
|
هاي المتوسط الحسابي يساوي المجموع على العدد عشرة |
|
|
|
740 |
|
00:59:50,250 --> 00:59:57,500 |
|
عشرين و بتهيألي فيه كمان واحدةهم خمس قيم خمس طعش |
|
|
|
741 |
|
00:59:57,500 --> 01:00:04,980 |
|
عشرين تمام سبعين على خمسة كدهش الشباب سبعين على |
|
|
|
742 |
|
01:00:04,980 --> 01:00:12,020 |
|
خمسة يا |
|
|
|
743 |
|
01:00:12,020 --> 01:00:17,640 |
|
عيني عليكم عشان هيك يا حبابنا تعمل حسابك تعمل |
|
|
|
744 |
|
01:00:17,640 --> 01:00:21,700 |
|
حسابك تجيب ال calculator تبعتك انا بالنسبة لي |
|
|
|
745 |
|
01:00:25,870 --> 01:00:29,150 |
|
هيها اه مش هسمحلك تستخدم الجوال ولا في الامتحان |
|
|
|
746 |
|
01:00:29,150 --> 01:00:32,830 |
|
هسمحلك تستخدم الجوال فانت ما شاء الله يعني لسه عن |
|
|
|
747 |
|
01:00:32,830 --> 01:00:35,470 |
|
بارح طالع من الثانوية العامة او إذا في عندك حدا |
|
|
|
748 |
|
01:00:35,470 --> 01:00:41,010 |
|
فهي .. هي فهي إلك إذا في حد أخدها من وراك تلفها |
|
|
|
749 |
|
01:00:41,010 --> 01:00:47,710 |
|
منه ضروري من اليوم و طالع في عندنا حساب لأ حساب |
|
|
|
750 |
|
01:00:47,710 --> 01:00:51,230 |
|
عشان ما أخوف cashلأن هاي و ما شاء الله عليك انت في |
|
|
|
751 |
|
01:00:51,230 --> 01:00:56,110 |
|
القسمة الـ 70 على 5 أثبتتي اللي بالدليل قاطع إنك |
|
|
|
752 |
|
01:00:56,110 --> 01:01:05,030 |
|
ناجح ان شاء الله طيب، الآن خلاص حسبت ال main الآن |
|
|
|
753 |
|
01:01:05,030 --> 01:01:08,710 |
|
إيش بقول ليه؟ الانحراف المعياري أو ال sigma تساوي |
|
|
|
754 |
|
01:01:08,710 --> 01:01:14,110 |
|
الجذر التربيعي للفروقات ما بين ال main على العدد |
|
|
|
755 |
|
01:01:26,700 --> 01:01:32,460 |
|
عشرة أربعة عشر ناقص عشرة تربيع أربعة عشر ناقص عشرة |
|
|
|
756 |
|
01:01:32,460 --> 01:01:36,680 |
|
عشرة تربيع أربعة عشر ناقص عشرين تربيع أربعة عشر |
|
|
|
757 |
|
01:01:36,680 --> 01:01:42,880 |
|
ناقص عشرين تربيع أربعة عشر ناقص عشرين تربيع أربعة |
|
|
|
758 |
|
01:01:42,880 --> 01:01:43,720 |
|
عشر ناقص عشرين تربيع أربعة عشر ناقص عشرين تربيع |
|
|
|
759 |
|
01:01:43,720 --> 01:01:44,240 |
|
أربعة عشر ناقص عشرين تربيع أربعة عشر ناقص عشرين |
|
|
|
760 |
|
01:01:44,240 --> 01:01:49,650 |
|
تربيع أربعة عشر ناقص عشرين تربيع أربعة عشر ناق16 1 |
|
|
|
761 |
|
01:01:49,650 --> 01:02:04,310 |
|
16 1 36 مصبوط انا حسبت المربعات الان 16 و 16 32 و |
|
|
|
762 |
|
01:02:04,310 --> 01:02:16,360 |
|
32 و 2 34 و 36 70 الان ال sigmaتساوي الجذر |
|
|
|
763 |
|
01:02:16,360 --> 01:02:22,900 |
|
التربيعي لـ 70 على 5 اللي هي جذر الـ 14 اللي هي |
|
|
|
764 |
|
01:02:22,900 --> 01:02:29,840 |
|
تقريبا قداش تلات |
|
|
|
765 |
|
01:02:29,840 --> 01:02:34,060 |
|
أو كسر، صح؟ |
|
|
|
766 |
|
01:02:34,060 --> 01:02:37,400 |
|
ما هو لما أنت تكتب لتنين جذر مش عارف قداش مش هتحصل |
|
|
|
767 |
|
01:02:37,400 --> 01:02:43,020 |
|
لنتيجة تلاتة |
|
|
|
768 |
|
01:02:43,020 --> 01:02:50,630 |
|
pointأربعة و سبعين جذر |
|
|
|
769 |
|
01:02:50,630 --> 01:02:57,510 |
|
الاربعتاش هذا بنسميه الانحراف المعياري لل data set |
|
|
|
770 |
|
01:02:57,510 --> 01:03:03,290 |
|
او لل attribute اللي عندى sigma لسه احنا مخلصناش |
|
|
|
771 |
|
01:03:03,290 --> 01:03:08,370 |
|
انا كل اللي بسوته جبت المعاملات بتاعة المعادلة هاي |
|
|
|
772 |
|
01:03:08,370 --> 01:03:13,740 |
|
جبت ال mu جبت ال sigmaهلجت بدي أجيب Z زد لمين يا |
|
|
|
773 |
|
01:03:13,740 --> 01:03:18,260 |
|
جماعة الخير لكل قيمة من هدول لكل قيمة من هدول احنا |
|
|
|
774 |
|
01:03:18,260 --> 01:03:27,880 |
|
خلصنا هذا الان بقدر أمسحه ال |
|
|
|
775 |
|
01:03:27,880 --> 01:03:32,420 |
|
attribute new قيمة |
|
|
|
776 |
|
01:03:32,420 --> 01:03:40,550 |
|
القيمة الجديدة تساوي X ناقص ميو علىتلاتة يعني بين |
|
|
|
777 |
|
01:03:40,550 --> 01:03:45,910 |
|
جثين هتكون عشرة ناقص أربعة تعش على تلاتة فاصلة |
|
|
|
778 |
|
01:03:45,910 --> 01:03:52,530 |
|
أربعة وسبعين ولا كيف بده يكون في الآخر المتوسط |
|
|
|
779 |
|
01:03:52,530 --> 01:03:57,970 |
|
الحسابي صفر لازم تكون قيم موجبة وقيم سالبة لأنه في |
|
|
|
780 |
|
01:03:57,970 --> 01:04:02,390 |
|
الآخر صفر على أي شيء العدد مستحيل يكون صفر فلازم |
|
|
|
781 |
|
01:04:02,390 --> 01:04:06,530 |
|
البسطي يطلع معاك صفر مجموع القيم فبتطلع هذه سالب |
|
|
|
782 |
|
01:04:06,530 --> 01:04:14,240 |
|
بالنسبة للأولىأربعة تقسيم تلاتة فاصلة أربعة وسبعين |
|
|
|
783 |
|
01:04:14,240 --> 01:04:17,340 |
|
سالب |
|
|
|
784 |
|
01:04:17,340 --> 01:04:22,440 |
|
واحد point zero سبعة هم ال roundation للرقمين |
|
|
|
785 |
|
01:04:22,440 --> 01:04:25,700 |
|
هتكون |
|
|
|
786 |
|
01:04:25,700 --> 01:04:31,300 |
|
عندي عشرة ناقص او عفوا خمس طعش ناقص اربعة طعش على |
|
|
|
787 |
|
01:04:31,300 --> 01:04:37,040 |
|
تلاتة اربعة وسبعين اعتمد |
|
|
|
788 |
|
01:04:37,040 --> 01:04:38,900 |
|
يا أبو حاسم ولا في شك في الكلام |
|
|
|
789 |
|
01:04:43,490 --> 01:04:49,430 |
|
26% غلط لأنه بدنا نعمل roundation عندك 6 أو 7 يا |
|
|
|
790 |
|
01:04:49,430 --> 01:04:56,250 |
|
باشا عشان أضمن تصفر معايا المسألة الآن عشرة نفس |
|
|
|
791 |
|
01:04:56,250 --> 01:05:00,890 |
|
القيمة اللي فوق 1 |
|
|
|
792 |
|
01:05:00,890 --> 01:05:07,610 |
|
.0715 |
|
|
|
793 |
|
01:05:07,610 --> 01:05:11,990 |
|
.27 الآن |
|
|
|
794 |
|
01:05:14,240 --> 01:05:25,220 |
|
1.6 انا بتذكرها هي صحيحة 1.6 تمام؟ الان متوسط |
|
|
|
795 |
|
01:05:25,220 --> 01:05:32,460 |
|
الحساب الجديد يساوي اجمع |
|
|
|
796 |
|
01:05:32,460 --> 01:05:40,840 |
|
العناصر هدول على عددهم عددهم خمسة سالب |
|
|
|
797 |
|
01:05:40,840 --> 01:05:41,240 |
|
واحد |
|
|
|
798 |
|
01:05:44,090 --> 01:05:52,350 |
|
لان انت متراهلش انت بتجمع القمتين هدول وبالتالي |
|
|
|
799 |
|
01:05:52,350 --> 01:05:59,410 |
|
ال mean تبعتي قداش صارت صفر لازم يطلع صفر اللي مش |
|
|
|
800 |
|
01:05:59,410 --> 01:06:04,250 |
|
مصدق يجمعهم يا شباب مش مشكلة عندي تمام فال mean |
|
|
|
801 |
|
01:06:04,250 --> 01:06:10,950 |
|
صفر الانحراف المعياري الجديد يساوي الجذر التربيعي |
|
|
|
802 |
|
01:06:10,950 --> 01:06:18,430 |
|
لأالفروقات هدول او القيام هدول تربيع الفروق مع ال |
|
|
|
803 |
|
01:06:18,430 --> 01:06:27,890 |
|
mean ال mean صفر فتربيع القيام هذه 1.07 زائد 0.27 |
|
|
|
804 |
|
01:06:27,890 --> 01:06:40,490 |
|
زائد 1.7 تربيع زائد 0.27 تربيع زائد 1.6 تربيع هدول |
|
|
|
805 |
|
01:06:40,490 --> 01:06:43,330 |
|
مجموحهم خمسة على خمسة |
|
|
|
806 |
|
01:06:48,310 --> 01:06:51,770 |
|
واحد اه لازم يطلع واحد لو ما طلعش واحد مانتوا في |
|
|
|
807 |
|
01:06:51,770 --> 01:06:57,470 |
|
عندك مشكلة لو ما طلعش واحد في عندك مشكلة في الحساب |
|
|
|
808 |
|
01:06:57,470 --> 01:07:02,890 |
|
ممكن الأرقام مشكلة لا يا باشا الأرقام إيش ما كانت |
|
|
|
809 |
|
01:07:02,890 --> 01:07:07,950 |
|
إذا تطبق عليها ال Z score لازم إنها تجي يطلع ال |
|
|
|
810 |
|
01:07:07,950 --> 01:07:11,030 |
|
main صفر و ال standard deviation واحد |
|
|
|
811 |
|
01:07:13,890 --> 01:07:18,810 |
|
تمام؟ تمام إيش |
|
|
|
812 |
|
01:07:18,810 --> 01:07:27,210 |
|
استفدت؟ الآن أنا عملت scaling .. scaling لمين؟ لل |
|
|
|
813 |
|
01:07:27,210 --> 01:07:32,090 |
|
A الأصلية اللي موجودة عندي بقيم جديدة عملت |
|
|
|
814 |
|
01:07:32,090 --> 01:07:36,970 |
|
transformation مظبوط؟ القيمة هذه تمثل العشرة وال |
|
|
|
815 |
|
01:07:36,970 --> 01:07:41,630 |
|
27 تمثل .. ال 27 من 100 تمثل 15يعني حطيتها في |
|
|
|
816 |
|
01:07:41,630 --> 01:07:45,130 |
|
Range جديد الـ Range الجديد هذا ما فقدش قيمته |
|
|
|
817 |
|
01:07:45,130 --> 01:07:52,390 |
|
مطلقا لكن كان فيه لميزة قال لي إن المتوسط الحسابي |
|
|
|
818 |
|
01:07:52,390 --> 01:07:57,610 |
|
تبع القيم هدول صفر والانحراف المياري واحد كتير من |
|
|
|
819 |
|
01:07:57,610 --> 01:08:00,370 |
|
ال machine learning algorithm جامعة الخير بتنبني |
|
|
|
820 |
|
01:08:00,370 --> 01:08:05,390 |
|
على حسبة ال main والانحراف المياري فلما أنا بأضمن |
|
|
|
821 |
|
01:08:05,390 --> 01:08:09,320 |
|
ال main صفرمعناته كتير من العمليات او من ال terms |
|
|
|
822 |
|
01:08:09,320 --> 01:08:12,800 |
|
هعملها neglect هاختصرها في ال computation ولا لأ |
|
|
|
823 |
|
01:08:12,800 --> 01:08:16,400 |
|
لما بتكون العمليات ضرب و بحصل على واحد في ال |
|
|
|
824 |
|
01:08:16,400 --> 01:08:21,140 |
|
standard deviation هذا الكلام كله بيخدمني في تسريع |
|
|
|
825 |
|
01:08:21,140 --> 01:08:23,980 |
|
عملية ال learning اللي هتصير عند ال data mining او |
|
|
|
826 |
|
01:08:23,980 --> 01:08:27,940 |
|
في مرحلة ال mining او ال data mining tasks هالكلام |
|
|
|
827 |
|
01:08:27,940 --> 01:08:32,920 |
|
هذا مطلوب من ناحية عملي من ناحية عملي ال standard |
|
|
|
828 |
|
01:08:32,920 --> 01:08:37,340 |
|
scalar موجودة في ال python as a functionتستدعيها و |
|
|
|
829 |
|
01:08:37,340 --> 01:08:39,800 |
|
بتقوله تديها اسم ال attribute و بتعمل generate ل |
|
|
|
830 |
|
01:08:39,800 --> 01:08:48,540 |
|
attribute بمباشرة بس لازم تحفظ و تفهم اش اللي بصير |
|
|
|
831 |
|
01:08:48,540 --> 01:08:52,240 |
|
لأنه بكل بساطة لاحقا ممكن اديك sequence من خمس |
|
|
|
832 |
|
01:08:52,240 --> 01:08:55,960 |
|
عناصر زي هيك و اقولك روح انا بدي نعمل |
|
|
|
833 |
|
01:08:55,960 --> 01:08:58,900 |
|
transformation لل data set هذه بحيث انك تتناسب مع |
|
|
|
834 |
|
01:08:58,900 --> 01:09:02,500 |
|
ال task الفلانية بتطبيق ال algorithm الفلاني |
|
|
|
835 |
|
01:09:06,680 --> 01:09:11,320 |
|
أيوة سؤال مهم أحمد فاروخ بيقول جديش ال scale مافيش |
|
|
|
836 |
|
01:09:11,320 --> 01:09:15,160 |
|
scale مافيش range و هذا الكلام قلناه ثابت مافيش |
|
|
|
837 |
|
01:09:15,160 --> 01:09:20,740 |
|
عندي minimum و maximum values ما بعرفهمش لكن بما |
|
|
|
838 |
|
01:09:20,740 --> 01:09:24,540 |
|
أنه العشرة هي أصغر قيمة عندي و ال data 6 أنا قادر |
|
|
|
839 |
|
01:09:24,540 --> 01:09:31,220 |
|
أمسكها أصغر قيمة فهذه كانت ال minimum و ال maximum |
|
|
|
840 |
|
01:09:31,220 --> 01:09:40,300 |
|
20 فهذه 61.6%هي ال maximum بس هي ال range تبعتي هي |
|
|
|
841 |
|
01:09:40,300 --> 01:09:44,900 |
|
ال range اللي موجودة عندي الآن على غرار الكلام هذا |
|
|
|
842 |
|
01:09:44,900 --> 01:09:53,900 |
|
في عند ال min max طبعا ال robust عشان نخلص منها ال |
|
|
|
843 |
|
01:09:53,900 --> 01:09:58,440 |
|
robust scalar فكرته بكل بساطة انه بيقولك يا عم إذا |
|
|
|
844 |
|
01:09:58,440 --> 01:10:01,580 |
|
أنا كان في عندي outlier point او في عندي noisy |
|
|
|
845 |
|
01:10:01,580 --> 01:10:06,000 |
|
pointفضمن ال range هذا و انا اعتمدت على ال mean |
|
|
|
846 |
|
01:10:06,000 --> 01:10:11,720 |
|
فهتشد ال mean باتجاه بعيد بمعنى اخر لو كانت |
|
|
|
847 |
|
01:10:11,720 --> 01:10:18,740 |
|
العشرين هذه 200 او ناقص 20 شو بيصير في ال mean |
|
|
|
848 |
|
01:10:18,740 --> 01:10:24,150 |
|
اللي عندى؟هيتغير وبالتالي صار فيه bias باتجاه الـ |
|
|
|
849 |
|
01:10:24,150 --> 01:10:28,330 |
|
outlier باتجاه ال noise data عشان يتجنب ال noise |
|
|
|
850 |
|
01:10:28,330 --> 01:10:32,370 |
|
data ال robust scalar هذا بيروح بيعتمد على ال |
|
|
|
851 |
|
01:10:32,370 --> 01:10:39,230 |
|
median و ال quartiles ايش ال median؟ ايش ال |
|
|
|
852 |
|
01:10:39,230 --> 01:10:44,370 |
|
median؟ الوسيط ال quartiles القيم تبعت الأرباع |
|
|
|
853 |
|
01:10:44,370 --> 01:10:48,400 |
|
تبعت العناصر اللي موجودة عندىوبهيك هو بتجنب تأثير |
|
|
|
854 |
|
01:10:48,400 --> 01:10:53,580 |
|
ال noise attributes لتظهر أو ال noise value لتظهر |
|
|
|
855 |
|
01:10:53,580 --> 01:10:53,860 |
|
عنده |
|
|
|
|