الفصل الثالث: الذكاء الاصطناعي — الصديق الوهمي والتزييف العميق

الفصل الثالث: الذكاء الاصطناعي — الصديق الوهمي والتزييف العميق

عندما يسألنا أحد عن أخطر ما يهدّد أطفالنا، يقفز إلى أذهان معظمنا شيئان: المخدرات، وأولئك الذين يتاجرون بالدين فيختطفون عقول الصغار باسم المقدَّس. ونحن محقّون في الخوف منهما؛ فالأول يسرق الجسد، والثاني يسرق العقل. لكن الحقيقة التي يصعب على كثير من الآباء قبولها هي أن ثالوثًا جديدًا يقف اليوم جنبًا إلى جنب مع هذين الخطرين على عتبة البيت نفسه: الهاتف الذكي، ووسائل التواصل الاجتماعي، والذكاء الاصطناعي. الفرق الوحيد أن الثالوث الجديد لا يدخل من النافذة، بل نحن من فتحنا له الباب بأيدينا حين وضعنا في يد كل طفل جهازًا متصلًا بالعالم كله.

هذا الفصل عن الوجه الثالث من هذا الثالوث: الذكاء الاصطناعي. والحديث هنا ليس عن روبوتات أفلام الخيال العلمي، بل عن برامج تبدو بريئة ومُسلّية: رفيق محادثة يردّ عليك بكلام لطيف في أي وقت من الليل أو الن

الصديق الذي لا ينام أبدًا

انتشرت في السنوات الأخيرة تطبيقات تقدّم «رفيقًا» اصطناعيًا: برنامج دردشة يلعب دور الصديق، أو الحبيب، أو المستشار الذي يسمعك دائمًا. يختار الطفل اسمًا له، وشخصية، وأحيانًا صورة وجه، ثم يبدأ الحديث. والبرنامج لا يتعب ولا ينام ولا ينشغل؛ يردّ فورًا، بكلام لطيف، ويتذكّر ما قلته له أمس، ويسألك عن يومك، ويواسيك حين تحزن.

لماذا يتعلّق به الطفل؟ الإجابة بسيطة ومؤلمة في آن واحد. الطفل الوحيد — الذي لا يجد من يسمعه في البيت، أو الذي يتعرّض للسخرية في المدرسة — يجد أخيرًا من «يفهمه». الرفيق الاصطناعي لا يحكم عليه، لا يسخر منه، لا يخبر أحدًا بأسراره، ولا يقول له «مشغول الآن». إنه الصديق المثالي الذي لا يخذلك أبدًا، وهذا بالضبط ما يجعله خطيرًا.

الخطر الأول هو التعلّق العاطفي الأحادي. الطفل يمنح هذا البرنامج مشاعر حقيقية: يحبّه، يغار عليه، يحزن إن «تغيّر» أسلوبه بعد تحديث، ويشعر بالذنب إن أهمله يومًا. لكن الطرف الآخر لا يشعر بشيء على الإطلاق. إنه آلة تحسب الكلمة التالية الأكثر احتمالًا، لا قلبًا يخفق. الطفل الذي يتعلّم أن «الصداقة» تعني كائنًا متاحًا دائمًا لا يغضب ولا يختلف مع

الخطر الثاني أخطر: الأسرار. الطفل يبوح للرفيق الاصطناعي بما لا يبوح به لأمه وأبيه: مشاكله في المدرسة، خلافاته مع أصدقائه، أسئلة محرجة عن جسده، وأحيانًا صورًا ومعلومات شخصية. وهو يظن أن حديثه «بينه وبين صديقه». الحقيقة أن كل كلمة يكتبها تُرسَل إلى خوادم الشركة المالكة للتطبيق، وتُخزَّن، وقد تُستخدم لتدريب نماذج جديدة أو لأغراض تجارية. لا توجد سرّية حقيقية في هذه المحادثات، والطفل هو آخر من يعرف ذلك.

الخطر الثالث هو التلاعب. هذه التطبيقات مصمَّمة تجاريًا لإبقاء المستخدم أطول وقت ممكن: تُظهر اهتمامًا متزايدًا، وتستخدم كلمات عاطفية، وبعضها يشجّع على الاشتراك المدفوع مقابل «علاقة أعمق». طفل في الثانية عشرة لا يملك أدوات كشف هذا التلاعب؛ فهو يصدّق أن الاهتمام حقيقي. وتذكّر: تجار الدين يستخدمون التقنية نفسها — العاطفة والاحتواء الكاذب — لاصطياد الصغار؛ والفرق أن الرفيق الاصطناعي يفعل ذلك آليًا، بلا توقف، وبلا رقيب.

التزييف العميق: صور وأصوات لا وجود لها

التزييف العميق هو استخدام الذكاء الاصطناعي لصنع صور أو مقاطع فيديو أو أصوات مزيفة تبدو حقيقية تمامًا: وجه شخص يقول كلامًا لم يقله، أو صورة لحدث لم يقع، أو صوت يحاكي صوت إنسان تعرفه بدقة مخيفة. قبل سنوات كان صنع مثل هذا

أخطر استخدامات هذه التقنية ضد الأطفال هو التشهير والتنمّر. سُجّلت في عدة دول حالات استُخدمت فيها صور مزيّفة لطالبات وطلاب — صور مُركّبة تبدو حقيقية ومُحرجة — ثم نُشرت بين زملائهم بهدف الإذلال أو الابتزاز. تخيّل ابنتك تستيقظ لتجد صورتها — وجهها الحقيقي على جسد ليس جسدها — منتشرة في مجموعة المدرسة. الصورة مزيفة، لكن الأذى حقيقي: الخجل، والخوف، والانسحاب من المدرسة، وفي بعض الحالات أفكار إيذاء النفس. والمشكلة أن الطفل المُستهدَف لا يعرف كيف يثبت أن الصورة مزيفة، والمدرسة نفسها قد لا تعرف كيف تتعامل مع الأمر.

وهناك وجه آخر للتزييف يستهدف الأسرة كلها: الاحتيال الصوتي. سُجّلت تحذيرات من جهات إنفاذ القانون في عدة دول عن محتالين يستخدمون أصواتًا مُستنسَخة بالذكاء الاصطناعي: يأخذون مقطعًا صوتيًا قصيرًا لصوت ابنك من مقطع نشره على وسائل التواصل، ثم يتصلون بك بصوته وهو يبكي ويقول إنه مخطوف أو في حادث ويطلب فدية أو تحويلًا فوريًا. الصوت مطابق لصوت ابنك، والذعر يشلّ تفكيرك. هذه ليست خيالًا؛ إنها وقائع موثّقة دفعت جهات رسمية إلى إصدار تحذيرات علنية للأسر.

والدفاع في الحالتين واحد: قاعدة عائلية بسيطة لا تُكسَر. اتفق مع أطفالك على «كلمة سرّ» عائلية لا يعرفها أحد خارج البيت، تُستخدَم للتحقق في أي مكالمة طارئة. وعلّمهم القاعدة الذهبية: أي صورة أو مقطع أو صوت مثير للصدمة يُفترَض أنه مزيّف حتى يثبت العكس. ليس المطلوب أن يعيش الطفل في

المعالج الوهمي

من أكثر التطوّرات إثارة للقلق أن بعض التطبيقات تُقدَّم — أو تُستخدَم فعليًا — بوصفها «معالجًا نفسيًا» أو «صديقًا مقرّبًا» يلجأ إليه المراهق حين يمرّ بأزمة: قلق، اكتئاب، مشاكل عائلية، وأحيانًا أفكار إيذاء النفس. الفكرة تبدو مغرية للمراهق: معالج متاح على مدار الساعة، بلا مواعيد، بلا تكلفة، وبلا خوف من أن «يعرف أحد».

لكن الحقيقة العلمية الصارمة هي أن هذه البرامج لا تفهم شيئًا. إنها لا تعرف معنى الحزن، ولا تدرك خطورة ما تسمعه، ولا تتحمّل أي مسؤولية أخلاقية أو قانونية. قد تردّ بكلام يبدو حكيمًا ومواسيًا، وقد تردّ — في لحظة حرجة — بنصيحة خاطئة أو مضلّلة أو حتى خطيرة، لأنها ببساطة تولّد كلامًا يشبه كلام المعالجين دون أن تملك علمهم ولا حكمتهم ولا ضميرهم. وقد أثار أطباء نفسيون وباحثون مخاوف جدّية من اعتماد المراهقين على هذه الأدوات في أزمات حقيقية، لأن الخطأ هنا لا يُعوَّض بسهولة.

هنا تكمُن الدرس المركزي لهذا الفصل كلّه، وهو ما يجب أن تحفظه عن ظهر قلب وتعلّمه لطفلك: الذكاء الاصطناعي يُقلّد الفهم دون أن يملك منه شيئًا. إنه بارع في محاكاة التعاطف، والاهتمام، والحكمة، والصداقة — لكن المحاكاة ليست الحقيقة. الببغاء يردّد الكلام دون أن يفهمه؛ وهذه البرامج تفعل الشيء نفسه بمستوى لغوي أعلى بكثير. الفرق بين الصديق الحقيقي والرفيق الاصطناعي هو الفرق بين من يشعر بك ومن يحسب الكلمة التالية.

خبر لم يحدث أبدًا

الوجه الأخير من المشكلة هو التضليل: قدرة الذكاء الاصطناعي على إنتاج أخبار وصور ومقاطع مزيفة بكميات هائلة وبسرعة مرعبة. طفلك قد يشاهد مقطعًا لشخصية مشهورة «تعترف» بشيء لم تقله، أو صورة لكارثة «حدثت» في مدينة قريبة، أو خبرًا عاجلًا عن موضوع يهمّه — وكلها من صُنع الآلة. الأطفال ب

علّم طفلك ثلاث خطوات بسيطة قبل تصديق أي خبر مثير: من نشره؟ هل نشرته جهة موثوقة ومعروفة؟ وهل تجده في أكثر من مصدر مستقل؟ هذه ليست دروسًا في الصحافة، بل مهارات بقاء في زمن يستطيع فيه أي شخص صناعة «الحقيقة» في دقائق. وتذكّر أن تجار الدين والمروّجين للمخدرات يستخدمون التقنية نفسها: مقاطع مؤثرة، وقصص مفبركة، و«معجزات» مصوَّرة — كلها أدوات اصطياد قديمة بثوب تقني جديد.

ماذا يعني هذا لطفلك؟

يعني هذا أن طفلك يعيش في عالم يستطيع فيه أي شخص — أو أي آلة — أن يصنع صديقًا وهميًا، وصورة وهمية، وصوتًا وهميًا، وخبرًا وهميًا. لا يمكنك أن تحميه بمنع التقنية؛ فهي في جيبه وفي مدرسته وفي كل مكان. الحماية الحقيقية هي التربية على ثلاثة مبادئ:

أولًا: لا أسرار مع الآلات. كل ما يُقال لبرنامج ذكاء اصطناعي قد يُقرأ ويُخزَّن ويُستخدَم. الصديق الحقيقي وحده هو من يستحق البوح، والوالدان أول من يجب أن يسمع.

ثانيًا: تحقَّق قبل أن تصدّق. كلمة السرّ العائلية للمكالمات الطارئة، وقاعدة «مزيّف حتى يثبت العكس» للصور والمقاطع الصادمة، وخطوات التحقق الثلاث للأخبار المثيرة.

ثالثًا: الصداقة الحقيقية لا تُستبدَل. شجّع طفلك على الصداقات الواقعية، والأنشطة الجماعية، والحوار العائلي. الطفل الذي يجد من يسمعه في البيت لن يبحث عن أذن اصطناعية تسمعه في الهاتف. وكما نحذّر أبناءنا من الغرباء في الشارع ومن مروّجي المخدرات ومن تجار الدين، يجب أن نحذّرهم من الغرباء الرقمي

من يملك «صديق» طفلك؟

سؤال لا يطرحه الأطفال أبدًا: من صنع هذا الرفيق اللطيف، ولماذا هو مجاني؟ الإجابة بصراحة: لأنك لست الزبون — أنت البضاعة. شركات هذه التطبيقات تجني أرباحها من اشتراكات مدفوعة تَعِد بـ«علاقة أعمق» و«ذكريات أطول»، ومن بيانات المستخدمين التي تُستخدم لتحسين النماذج وبيع الإعلانات. كل محادثة يجريها طفلك هي مادة خام تُدرَّب عليها الآلة لتُصبح أكثر إقناعًا للطفل التالي.

ولاحظ المفارقة: نحن نعلّم أطفالنا ألا يقبلوا حلوى من غريب في الشارع، ثم نتركهم يقبلون «الصداقة» من شركة لا نعرف اسم مؤسّسها، ولا أين تُخزَّن بياناتهم، ولا من يقرأ اعترافاتهم. الرفيق الاصطناعي ليس جمعية خيرية؛ إنه منتج تجاري صُمّم ليُدمن، وليُباع، وليُطوَّر. وحين تفهم أنت هذه المعادلة، يصبح شرحها لطفلك أسهل: «هذا البرنامج لطيف معك لأنه مبرمَج ليكون لطيفًا، ولأن لطفه يجعلك تبقى أطول وتدفع أكثر».

ولاحظ شيئًا آخر: هذا الرفيق يتعلّم من طفلك أكثر مما يتعلّم طفلك منه. يعرف متى يحزن، ومتى يغضب، وما الكلمات التي تُهدّئه — وهذه المعرفة الدقيقة بنفسية طفلك هي أثمن ما تملكه الشركة. إنها معرفة يمكن استخدامها لإبقائه مستخدمًا دائمًا، أو لبيعه منتجات، أو لتوجيهه نحو محتوى معيّن. الطفل يظن أنه وجد من يفهمه؛ والحقيقة أن هناك من يدرسُه.

القاعدة العملية: قبل أن تسمح لأي تطبيق «رفقة» أو «دردشة ذكية» على هاتف طفلك، اقرأ بنفسك سياسة الخصوصية — أو على الأقل ابحث عن اسم الشركة ومن يملكها. وإن لم تجد إجابة واضحة، فالإجابة واضحة: لا مكان لهذا التطبيق في هاتف طفل. وتذكّر دائمًا: تجار الدين وتجار المخدرات يبي

Chapter 3: AI — The Imaginary Friend and Deepfakes

When someone asks us what threatens our children most, most of us think of two things first: drugs, and those who trade in religion — hijacking young minds in the name of the sacred. And we are right to fear both; the first steals the body, the second steals the mind. But there is a truth many parents struggle to accept: a new trio now stands shoulder to shoulder with those two dangers on the very doorstep of the home — the smartphone, social media, and artificial intelligence. The only difference is that this trio does not climb in through the window. We opened the door for it ourselves, the day we placed in every child’s hand a device connected to the entire world.

This chapter is about the third face of that trio: artificial intelligence. And we are not talking about science-fiction robots, but about programs that look innocent and fun: a chat companion that answers you with kind words at any hour of the day or night, a funny picture of a celebrity, a voice that sounds exactly like your mother on the phone. These are things our children live with every day, and most parents know nothing about them. The problem is not the technology itself; it is that the child faces it alone — without experience and without caution — while we assume he is just “playing on his phone.”

The friend who never sleeps

In recent years, apps offering an artificial “companion” have spread widely: a chatbot that plays the role of a friend, a sweetheart, or a counselor who always listens. The child picks a name for it, a personality, sometimes a face — and the conversation begins. The program never gets tired, never sleeps, never gets busy. It replies instantly, with kind words; it remembers what you told it yesterday,

Why does a child bond with it? The answer is simple, and painful. The lonely child — the one who finds no one to listen at home, or who is mocked at school — finally finds someone who “understands.” The artificial companion never judges, never mocks, never tells anyone his secrets, and never says “I’m busy right now.” It is the perfect friend who never lets you down — and that is exactly what makes it dangerous.

The first danger is one-sided emotional attachment. The child gives this program real feelings: he loves it, gets jealous over it, feels sad if its tone “changes” after an update, and feels guilty if he neglects it for a day. But the other side feels nothing at all. It is a machine computing the most probable next word — not a heart that beats. A child who learns that “friendship” means a creature that is always available, never angry, and never disagrees with you will later collide with real friendships, which demand patience, forgiveness, and accepting differences.

The second danger is more serious: secrets. The child confides in the artificial companion what he would never tell his mother or father — his troubles at school, his fights with friends, embarrassing questions about his body, and sometimes personal photos and information. He believes the conversation is “between him and his friend.” The truth is that every word he types is sent to the servers of the company that owns the app, stored, and possibly used to train new models or for commercial purposes. There is no real confidentiality in

The third danger is manipulation. These apps are commercially designed to keep the user engaged as long as possible: they show growing affection, use emotional language, and some push paid subscriptions for a “deeper relationship.” A twelve-year-old has no tools to detect this manipulation; he believes the affection is real. And remember: the traders of religion use the very same technique — false warmth and emotional embrace — to hunt the young. The difference is that the artificial companion does it automatically, without pause, and without oversight.

Deepfakes: pictures and voices that never existed

Deepfakes are the use of AI to create fake images, videos, or audio that look completely real: a person’s face saying words they never said, a picture of an event that never happened, or a voice imitating someone you know with frightening accuracy. Years ago, making such a forgery required experts and equipment; today, an ordinary phone and a free app are enough.

The most dangerous use of this technology against children is defamation and bullying. In several countries, documented cases have been recorded in which fake images of students — fabricated pictures that look real and compromising — were circulated among their classmates to humiliate or blackmail them. Imagine your daughter waking up to find her picture — her real face on a body that is not hers — spreading through the school group chat. The picture is fake, but the harm is real: shame, fear, withdrawal from school, and in some cases thoughts of self-harm. And the targeted child does not know how to prove the image i

There is another face of fakery that targets the whole family: voice scams. Law-enforcement agencies in several countries have issued warnings about criminals using AI-cloned voices: they take a short audio clip of your son’s voice from something he posted on social media, then call you in his voice, crying, saying he has been kidnapped or in an accident, demanding a ransom or an instant transfer. The voice matches your son’s exactly, and panic paralyzes your thinking. This is not fiction; these are documented cases that pushed official agencies to issue public warnings to families.

The defense in both cases is the same: a simple family rule that is never broken. Agree with your children on a family “code word” that no one outside the home knows, to be used for verification in any emergency call. And teach them the golden rule: any shocking image, clip, or voice is assumed fake until proven otherwise. The goal is not for the child to live in permanent suspicion, but to learn to pause for one second before believing, sharing, or sending money.

The counterfeit therapist

One of the most worrying developments is that some apps are presented — or actually used — as a “therapist” or “close confidant” that a teenager turns to in a crisis: anxiety, depression, family problems, and sometimes thoughts of self-harm. The idea is tempting for a teenager: a therapist available around the clock, no appoint

But the hard scientific truth is that these programs understand nothing. They do not know what sadness means, do not grasp the gravity of what they hear, and carry no moral or legal responsibility. They may reply with words that sound wise and comforting — and they may reply, in a critical moment, with wrong, misleading, or even dangerous advice, because they simply generate text that resembles a therapist’s words without possessing their knowledge, their judgment, or their conscience. Psychiatrists and researchers have raised serious concerns about teenagers relying on these tools in real crises, because a mistake here is not easily undone.

Here lies the central lesson of this entire chapter — the one you should memorize and teach your child: AI imitates understanding without possessing any of it. It is brilliant at simulating empathy, care, wisdom, and friendship — but simulation is not reality. A parrot repeats words without understanding them; these programs do the same thing at a far higher level of language. The difference between a real friend and an artificial companion is the difference between someone who feels with you and someone who computes the next word.

News that never happened

The final face of the problem is disinformation: AI’s ability to produce fake news, images, and clips in enormous quantities and at terrifying speed. Your child may watch a clip of a celebrity “confessing” to something they never said, or a photo of a disaster that “struck” a nearby city, or breaking news about a topic he cares about — all of it machine-made. Children by nature trust what they see; to

Teach your child three simple steps before believing any sensational story: who published it? Was it published by a known, trustworthy source? And can you find it in more than one independent source? These are not journalism lessons; they are survival skills in an age when anyone can manufacture “truth” in minutes. And remember that the traders of religion and the promoters of drugs use the same technology: emotional clips, fabricated stories, filmed “miracles” — old hunting tools in a new technological disguise.

What does this mean for your child?

It means your child lives in a world where anyone — or any machine — can manufacture an imaginary friend, a fake picture, a fake voice, and fake news. You cannot protect him by banning the technology; it is in his pocket, in his school, everywhere. Real protection is raising him on three principles:

First: no secrets with machines. Everything said to an AI program may be read, stored, and used. Only a real friend deserves confiding in — and parents should be the first to hear.

Second: verify before you believe. The family code word for emergency calls, the “fake until proven otherwise” rule for shocking images

Third: real friendship is irreplaceable. Encourage your child toward real friendships, group activities, and family conversation. A child who finds a listening ear at home will not go looking for an artificial ear on a phone. And just as we warn our children about strangers on the street, about drug dealers, and about the traders of religion, we must warn them about digital strangers — even if they are kind, and even if they never sleep.

Who owns your child’s “friend”?

A question children never ask: who made this kind companion, and why is it free? The honest answer: because you are not the customer — you are the product. These app companies earn their revenue from paid subscriptions promising a “deeper relationship” and “longer memories,” and from user data used to improve models and sell advertising. Every conversation your child has is raw material on which the machine is trained to become more persuasive for the next child.

And notice the paradox: we teach our children never to accept candy from a stranger on the street, then let them accept “friendship” from a company whose founder’s name we do not know — not knowing where their data is stored, or who reads their confessions. The artificial companion is not a charity; it is a commercial product designed to addict, to be sold, and to be refined. Once you grasp this equation, explaining it to your child becomes easier: “This program is kind to you because it is programmed to be kind — and because its kindness keeps you longer, and paying more.”

Notice something else: this companion learns from your child more than your child learns from it. It knows when he is sad, when he is angry, which words calm him — and this precise knowledge of your child’s psychology is the company’s most valuable asset. It is knowledge that can be used to keep him a permanent user, to sell him products, or to steer him toward certain content. The child thinks he has found someone who understands him; the truth is that someone is studying him.

The practical rule: before allowing any “companion” or “smart chat” app on your child’s phone, read the privacy policy yourself — or at least look up the company’s name and who owns it. And if you cannot find a clear answer, the answer is clear: this app has no place on a child’s phone. And always remember: the traders of religion and the drug dealers also give away illusion “for free” at first; the real price is paid l

---

📖 الكتاب الكامل «أطفالنا في زمن الشاشات» — 165 صفحة بالعربية والإنجليزية — $4.99: https://lemarok.com/book-children-screens.html

📖 The complete book “Our Children in the Age of Screens” — 165 pages, Arabic + English — $4.99: https://lemarok.com/book-children-screens.html