Why is it so hard for these platforms to just moderate adult content?

From a purely technical standpoint, the volume of data uploaded every second is astronomical. You can write scripts to flag certain image patterns, but algorithms are terrible at nuance, context, and verifying real ages. Plus, the companies have a massive financial incentive to keep engagement high, meaning their internal moderation teams are usually severely underfunded and overwhelmed. It's a broken system by design.

How am I supposed to teach bodily autonomy to a baby who can't talk?

Dr. Sarah told us it starts with really small physical cues. When I go to pick her up, I try to hold my hands out first and wait for her to lean in, rather than just scooping her up out of nowhere. We also don't force her to give high-fives or hugs to grandparents if she's turning her head away. It feels silly doing it with an 11-month-old, but apparently, it builds the muscle memory for consent.

Is delaying smartphone use really realistic in 2024?

I've no idea, honestly. My DevOps buddy says it's impossible, but my wife is determined to keep her off personal devices until high school. I think the goal isn't absolute perfection, but just pushing the timeline back as far as humanly possible. If we can get her past the most vulnerable early-teen developmental stages before handing over a device with full internet access, I'll consider that a massive win.

What does a teenager's brain development have to do with making bad internet choices?

Basically, the front part of your brain that tells you "hey, maybe permanently uploading a compromising photo of yourself for $5 is a terrible long-term career move" doesn't finish forming until your mid-twenties. Teenagers literally lack the biological hardware to fully comprehend permanent consequences. They run entirely on short-term dopamine rewards, which is exactly what social media apps are engineered to exploit.

How do I handle relatives who constantly want to post pictures of my baby online?

This is the worst part of modern parenting. We had to have a super awkward sit-down with my parents to explain that our daughter's digital footprint isn't ours to create. We use a private, end-to-end encrypted shared photo album for family. If someone posts her on public social media, I usually have to play the bad cop and text them to take it down. It causes friction, but her privacy is way more important than my aunt's Facebook likes.

Vaikų saugumas internete ir skaitmeniniai pėdsakai

Vakar per „FaceTime“ mama man pasakė, kad pats patikimiausias interneto saugumo sprendimas – tiesiog paduoti dukrai atlenkiamą telefoną, kai jai sueis šešiolika, ir griežtai atsisakyti pripažinti „Wi-Fi“ egzistavimą, kol ji baigs universitetą. Po dviejų valandų Stivas iš mano „DevOps“ komandos per „Slack“ atsiuntė pamišėlišką 400 žodžių manifestą apie tai, kaip man reikia sukonfigūruoti dedikuotą tarpinį serverį su pritaikytais paketų analizės protokolais, kad galėčiau rankiniu būdu stebėti kiekvieną gaunamų duomenų baitą. O šįryt, per dukros 11 mėnesių patikrinimą, mūsų gydytoja, daktarė Sara, maloniai nusišypsojo klausydamasi mano miego trūkumo padiktuotų kliedesių ir pasiūlė tiesiog pradėti nuo elementarių pokalbių apie kūno autonomiją.

Trys visiškai skirtingi pataisymai tai pačiai katastrofiškai saugumo spragai.

Šiuo metu sėdžiu prie savo virtuvės salos Portlando mieste ir spoksau į savo 11 mėnesių dukrytę, kuri įnirtingai bando suvalgyti ant kilimo rastą mėlyną pūkelį, o mano širdies ritmas laikosi ties 110 dūžių per minutę. Laukdamas, kol susikompiliuos mano kodas, padariau klaidą – paskaičiau naujienas. Nereikėjo to daryti. Dabar mane varo iš proto mintys apie tai, ką internetas su ja padarys.

Atgalinio skaičiavimo laikrodis, kuris visiškai sujaukė man protą

Visa „Bhad Bhabie“ situacija neseniai iškilo viename detaliame dokumentiniame filme, kurį pusiau žiūrėjau, vidurnaktį varganai šveisdamas sudžiūvusią avižinę košę nuo maitinimo kėdutės padėklo. Jei kažkokiu būdu praleidote šį kultūrinį etapą – Danielle Bregoli buvo probleminė paauglė iš dieninės pokalbių laidos, tapusi didžiuliu interneto memu. Ji užaugo viešumoje, nuolat apsupta internetinių dramų.

Tuomet, praėjus lygiai šešioms dienoms po jos 18-ojo gimtadienio 2021 m. balandį, ji atidarė prenumeratos puslapį. Taip atsiradusi jos „OnlyFans“ paskyra visiškai pagerino platformos pajamų rekordus. Per pirmąsias šešias valandas internete ji uždirbo daugiau nei 1 milijoną dolerių. Leiskite tam susigulėti. Ataskaitos rodo, kad per metus ji susižėrė apie 52 milijonus.

Bet ne dėl pinigų man darosi bloga. Tai kraupus faktas, kad suaugę vartotojai visame internete savo kompiuteriuose turėjo tikrus, veikiančius atgalinio skaičiavimo laikrodžius ir tyliai laukė to tikslaus vidurnakčio momento, kai ši paauglė teisiškai taps suaugusia. Kaip neseniai tapęs tėčiu, suvokęs, kad tai yra ta pati skaitmeninė ekosistema, kurią paveldės mano miela mažylė, tiesiog noriu išmesti savo maršrutizatorių tiesiai į Vilameto upę.

Kodėl žmogaus atliekamas moderavimas yra iš esmės neveikiantis kodas

Technologijų pramonė mėgsta kalbėti apie turinio moderavimą taip, lyg tai būtų kažkokia galinga, nepramušama ugniasienė, tačiau bet kas, parašęs bent eilutę kodo, žino, kad moderavimo algoritmai iš esmės yra tiesiog labai savimi pasitikintys mažyliai, spėliojantys formas. Teigiama, kad tokios platformos kaip „OnlyFans“ per mėnesį apdoroja apie 55 milijonus turinio vienetų. Idėja, kad žmogaus atliekama peržiūra gali užkirsti kelią išnaudojimui ar amžiaus klastojimui tokiu masiniu mastu, yra visiška fantazija. Mes prašome nepakankamai apmokamų darbuotojų, sėdinčių patalpose be langų, akimirksniu nustatyti milijonų kasdienių įkėlimų autorių amžių, sutikimo būseną ir psichologinę būklę. Tai matematiškai neįmanoma, o tai reiškia, kad plėšrūniškas elgesys paprasčiausiai praslysta pro plyšius.

Kas man tikrai neleidžia miegoti naktimis, tai automatizuotas srautas, maitinantis šiuo turiniu jaunesnius vartotojus. Tai nėra tik uždaras suaugusiems skirto turinio sodas; didžiulė finansinė šių kūrėjų sėkmė transliuojama tiesiai atgal į programėles, kuriomis ilgainiui naudosis ir mūsų vaikai. Įsivaizduokite 11-metį, naršantį „TikTok“, kuriam algoritmas subtiliai pakiša vaizdo įrašus, šlovinančius, kaip buvusi paauglė, interneto memų žvaigždė, grynaisiais nusipirko vilą. Platforma yra tarsi verbavimo kanalas, tyliai normalizuojantis savo fizinio kūno pavertimą pinigais demografinei grupei, kuriai vis dar reikia pagalbos perpjaunant vynuoges per pusę.

O visas tas naratyvas apie tai, kaip moderni „kūrėjų ekonomika“ suteikia galios, yra tiesiog meistriškas korporacijų manipuliavimo (angl. gaslighting) pavyzdys. Viršutinis procentas susižeria aštuonženkles sumas, tuo pat metu aktyviai kurdamas nuolatinį, neišdildomą skaitmeninį pėdsaką, kurį gali nuskaityti, atsisiųsti ir platinti bet koks atsitiktinis vartotojas su baziniu „Python“ skriptu. Tuo tarpu didžioji dauguma šių platformų kūrėjų uždirba mažiau nei minimalų atlyginimą, iškeisdami savo ilgalaikį privatumą ir psichikos sveikatą į sumą, prilygstančią apvalinimo paklaidai technologijų milijardieriaus akcijų portfelyje.

Ir atvirai kalbant, net nepradėkite man pasakoti apie tas brangias šeimos stebėjimo programėles, kurios žada sekti jūsų vaiko veiklą internete, bet galiausiai dažniausiai tiesiog tyliai parduoda tikslius jūsų šeimos buvimo vietos duomenis trečiųjų šalių reklamos tinklams.

Paauglio smegenų „techninės įrangos“ apribojimai

Gydytoja Sara man bandė paaiškinti neurologinę šio reikalo pusę, ir, pasirodo, paauglio smegenys iš esmės veikia su beta programine įranga. Prefrontalinė žievė – biologinio procesoriaus dalis, atsakinga už ilgalaikį rizikos vertinimą ir impulsų kontrolę, baigia „kompiliuotis“ tik apie 25-uosius gyvenimo metus.

Hardware limitations of a teenage brain — Parenting In The Digital Age And The Terrifying Teen Timeline

Taigi, kai 18-metis nusprendžia visam laikui įkelti save į internetą, jis veikia su didžiuliu techninės įrangos apribojimu. Fiziškai neįmanoma apdoroti ilgalaikių savo skaitmeninio pėdsako pasekmių. Dabar žiūriu į savo dukrą, apsikabinusią pliušinį žaislą tarsi dešimtojo dešimtmečio „Beanie Baby“, ir mane pribloškia mintis, kad ilgainiui jai teks susidurti su internetu, kurį sukūrė genialūs elgsenos psichologai, specialiai tam, kad išnaudotų jos nebaigtą smegenų architektūrą. Tai neįtikėtinai nelygi kova.

Analoginiai pataisymai skaitmeniniam košmarui

Žmona man nuolat primena, kad negaliu tiesiog išvežti mūsų gyventi į jurtą miške be elektros ir ryšio. Turime gyventi realiame pasaulyje. Kol kas, kai jai 11 mėnesių, mūsų strategija stipriai remiasi lytėjimu ir analoginėmis patirtimis. Jokių ekranų. Jokių fone rodomų „iPad“ filmukų.

Prieš kelias savaites, per bjaurų elektros dingimą Portlando mieste, namuose buvo beprotiškai šalta, mano telefono baterija seko, o aš panikavau, kad dukra sušals. Mano žmona ramiai įsuko ją į ekologiškos medvilnės kūdikių pleduką – draugišką aplinkai, su violetiniais elniukais. Tai neabejotinai mano mėgstamiausias mūsų turimas kūdikių daiktas. Sėdėjome prie lango, susisupę į šią neįtikėtinai minkštą dvigubo sluoksnio medvilnę, ir tiesiog stebėjome į stiklą atsimušančius lietaus lašus. Kontrastingas violetinių ir žalių elniukų raštas visiškai prikaustė jos dėmesį ilgiau nei valandai. Jis yra 100 % ekologiškas ir turi GOTS sertifikatą, tad kai ji neišvengiamai pradėjo agresyviai kramtyti jo kampą, nepatyriau mini panikos atakos dėl toksiškų dažų. Tai buvo tobula, nuo interneto atsieta akimirka.

Mes taip pat stipriai pasikliaujame medinių ir silikoninių karoliukų čiulptuko laikikliu, kad jos daiktai nesimėtytų ant grindų. Tiesą sakant, šis produktas man atrodo tiesiog neblogas. Medis ir silikonas atrodo puikiai, aš žinau, kad tai visiškai saugu, tačiau pati karoliukų grandinėlė atrodo stebėtinai sunki, lyg koks masyvus USB raktas, kabantis jai ant apykaklės. Kartais svoris tiesiog ištraukia čiulptuką jai iš burnos, jei ji per greitai pasuka galvą. Jis dažniausiai apsaugo čiulptuką nuo kritimo ant grindų, nors kartais ji vis tiek sugalvoja, kaip jį atsegti ir pervilkti tiesiai per katės tualetą. Savo darbą jis atlieka, bet nėra tobulas.

Kita vertus, vaivorykštės spalvų silikoninis kramtukas – minkšto debesėlio dizainas yra absoliučiai genialus. Man jis atrodo lygiai taip pat, kaip 16 bitų debesėlio grafika iš „Super Nintendo“ žaidimo, o tai visiškai patenkina mano geekišką nostalgiją. Dar svarbiau, kai ji klykia, nes naujas kandis skausmingai skverbiasi pro dantenas, padavus šį spalvotą silikoninį debesėlį, verkimas iš tiesų liaujasi. Skirtingos tekstūros taip užima jos mažas rankytes, kad ji laikinai nustoja pulti prie mano išmaniojo telefono kaskart, kai bandau patikrinti „Slack“ žinutę.

Lokalizuotos ugniasienės kūrimas

Kaip iš tiesų apsaugoti juos ilgalaikėje perspektyvoje? Šiuo metu atrodo, kad svarbiausia – sukurti pagrindinius įpročius. Kūno autonomijos mokymas atrodo vienintelis dalykas, dėl kurio pediatrai, vaikų psichologai ir mano paties žmona nuoširdžiai sutaria.

Building a localized firewall — Parenting In The Digital Age And The Terrifying Teen Timeline

Pasirodo, jei išmokysite mažylį, kad jis turi visišką jurisdikciją savo fizinėje erdvėje – kad jam niekada nereikia apsikabinti giminaičio, jei to nenori – tai parašo bazinį kodą tam, kaip jis vertins savo skaitmenines ribas vėliau gyvenime. Bandymas agresyviai slėpti savo senus išmaniuosius telefonus užrakintame stalo stalčiuje, nerangiai painiojantis kasdieniuose pokalbiuose apie sutikimą ir tuo pat metu bandant rankiniu būdu sukonfigūruoti namų tinklo DNS nustatymus, yra visiškai varginantis auklėjimo būdas, tačiau tai gali būti geriausias mūsų šansas apsaugoti juos.

Jei jūs taip pat bandote kuo ilgiau atitolinti algoritmus, galite peržiūrėti puikius ekologiškus produktus kūdikiams, kurie padeda išlaikyti žaidimų laiką griežtai analoginį.

Paskutinis „commit'as“ prieš paslepiant telefoną

Aš tikrai nesu visko išsiaiškinęs. Esu tik pavargęs programinės įrangos inžinierius, bandantis suprasti, kaip mano mažytė dukra – kuri šiuo metu mano alkūnę laiko kramtomuoju žaislu – išgyvens internete, kuris į ją žiūri tik kaip į monetizacijos metriką. Mes negalime numatyti, kaip internetas atrodys po dešimties metų. Galbūt dabartinis nuomonės formuotojų pasaulis iki to laiko bus tik apdulkėjusi pamokanti istorija.

Viskas, ką žinau, tai, kad šiandien renkuosi laikyti telefoną kišenėje. Leisiu jai žaisti su medinėmis kaladėlėmis vietoje planšetės.

Jei ir jūs bandote sukurti gražią, nuo ekranų laisvą šventovę savo kūdikiui, kol algoritmai neįleido savo nagų, peržiūrėkite „Kianao“ kolekcijas, kuriose rasite tvarių, realaus pasaulio žaislų ir reikmenų.

Mano chaotiškas problemų sprendimo (DUK) skyrius

Kodėl šioms platformoms taip sunku tiesiog moderuoti suaugusiems skirtą turinį?

Žvelgiant iš grynai techninės pusės, kiekvieną sekundę įkeliamų duomenų kiekis yra astronominis. Galite parašyti skriptus, kurie pažymėtų tam tikrus vaizdų šablonus, tačiau algoritmai yra tragiški vertinant niuansus, kontekstą ir patikrinant tikrąjį amžių. Be to, įmonės turi didžiulę finansinę paskatą išlaikyti aukštą įsitraukimą, o tai reiškia, kad jų vidinės moderavimo komandos paprastai gauna per mažai lėšų ir yra perkrautos darbu. Tai sistema, kuri iš esmės yra sugedusi nuo pat pradžių.

Kaip man išmokyti kūno autonomijos kūdikį, kuris dar nemoka kalbėti?

Daktarė Sara mums sakė, kad tai prasideda nuo labai mažų fizinių ženklų. Kai noriu ją paimti ant rankų, pirmiausia stengiuosi ištiesti rankas ir palaukti, kol ji pati pasilenks, o ne tiesiog staigiai pagriebti iš niekur. Mes taip pat neverčiame jos „duoti penkis“ ar apkabinti senelių, jei ji nusuka galvą. Atrodo kvailai tai daryti su 11 mėnesių kūdikiu, bet, pasirodo, tai formuoja raumenų atmintį sutikimui.

Ar išmaniojo telefono atidėliojimas tikrai realus 2024 metais?

Atvirai pasakius, neįsivaizduoju. Mano „DevOps“ bičiulis sako, kad tai neįmanoma, bet mano žmona pasiryžusi neprisileisti jos prie asmeninių įrenginių iki pat vidurinės mokyklos. Manau, kad tikslas nėra absoliutus tobulumas, o tiesiog šio laiko atitolinimas tiek, kiek įmanoma žmogui. Jei pavyks ją apsaugoti per patį pažeidžiamiausią ankstyvosios paauglystės raidos etapą prieš paduodant įrenginį su pilna interneto prieiga, laikysiu tai didžiuliu laimėjimu.

Ką paauglio smegenų vystymasis turi bendro su blogais sprendimais internete?

Iš esmės priekinė jūsų smegenų dalis, kuri sako: „Ei, gal visam laikui įkelti kompromituojančią savo nuotrauką už 5 dolerius yra siaubingas ilgalaikis karjeros žingsnis“, baigia formuotis tik sulaukus maždaug dvidešimt kelerių metų. Paaugliams tiesiogine prasme trūksta biologinės „techninės įrangos“, kad jie galėtų visiškai suprasti negrįžtamas pasekmes. Jie veikia vedami tik trumpalaikių dopamino apdovanojimų, o būtent šį dalyką išnaudoti ir yra suprogramuotos socialinių tinklų programėlės.

Kaip elgtis su giminaičiais, kurie nuolat nori skelbti mano kūdikio nuotraukas internete?

Tai pati blogiausia šiuolaikinės tėvystės dalis. Mums teko išgyventi itin nepatogų pokalbį su mano tėvais, bandant paaiškinti, kad ne mūsų teisė kurti dukros skaitmeninį pėdsaką. Šeimai naudojame privatų, ištisiniu šifravimu (angl. end-to-end) apsaugotą bendrą nuotraukų albumą. Jei kas nors paskelbia jos nuotrauką viešuose socialiniuose tinkluose, man paprastai tenka pabūti blogu policininku ir parašyti, kad ją pašalintų. Tai kelia įtampą, tačiau jos privatumas yra kur kas svarbesnis nei mano tetos „Facebook“ patiktukai.