

Discover more from Dragos’s Newsletter
Studiu de manipulare jurnalistica (sau jurnalism prost, depinde cum vreti sa il vedeti).
Citesc intr-o dimineata in Cronica.ro urmatoarea stire: "Un jucător amator a învins la Go cel mai puternic sistem de AI, profitând de pe urma unei vulnerabilități a acestuia și câștigând astfel 14 meciuri din 15. AI-ul, care domină jocul de Go din 2016, a fost surprins în mod repetat de o tactică la care nu a fost expus anterior și la care nu s-a putut adapta."
Wow, un om a batut AlphaGoZero de la DeepMind?!
Ca AlphaGoZero este cel mai puternic AI de Go, cel care l-a invins pe AlphaGo cu 100-0, iar AlphaGo l-a invins pe Lee Sedol (locul 2 mondial) in 2016 cu 4-1.
Dar parca AlphaGoZero nu era disponibil public, atunci cum au reusit sa joace impotriva lui si sa il si bata un amator?
Asa ca intru pe stirea sursa de la Financial Times, evident cu asteptarea unui jurnalism de top ca, deh, FT e considerat un nume serios in presa:
"A human player has comprehensively defeated a top-ranked AI system at the board game Go, in a surprise reversal of the 2016 computer victory that was seen as a milestone in the rise of artificial intelligence."
Hm, deci "a top-ranked AI" si nu "the top-ranked AI".
Dar observati cum este construita fraza ca sa te induca in eroare, ca nu spune concret cum se numeste acest top-ranked AI (KataGo), ci il lasa nenumit, si pe urma face o referire la victoria altui AI (AlphaGo), recunoscut ca cel mai puternic AI in urma turneului din 2016.
Si ca sa fie stirea cat mai senzationala mai si extrapoleaza aceasta victorie umana la toate AI-urile, si il baga si pe saracul ChatGPT in text, ca poate ajuta la SEO:
"The triumph, which has not previously been reported, highlighted a weakness in the best Go computer programs that is shared by most of today’s widely used AI systems, including the ChatGPT chatbot created by San Francisco-based OpenAI."
Citesc mai departe:
"AlphaGo is not publicly available, but the systems Pelrine prevailed against are considered on a par."
Aha, deci nu e AlphaGoZero ca nu e public, dar autorul articolului (ca nu spune cine altcineva) afirma cu certitudine ca "KataGo" e un "top-ranked AI" si chiar la egalitate cu AlphaGo.
Urmarind un link din articolul FT catre cercetarea sursa descoperim ca de fapt este vorba despre un "cyclic-adversary" (un model experimental de AI) care l-a batut pe KataGo, dar a fost batut de un jucator de go amator (parte din echipa de cercetare).
"A human amateur beats our adversarial policy that beats KataGo. This non-transitivity shows the adversary is not a generally capable policy, and is just exploiting KataGo."
Daca citim cu atentie cercetarea respectiva (greu de inteles de altfel daca nu esti specialist) vorbeste despre explorarea vulnerabilitatilor din modelele AI "self-play", dar de aici pana la concluziile articolului FT este o cale lunga.
E ca si cum eu fac un program de X, il testez cu alte programe de pe piata, programul meu nu stie X dar exploateaza vulnerabilitati ale celor de pe piata, pun un om sa bata programul meu, public toate astea si pe urma "profesionistii" de la Financial Times creeaza o stire "clickbait" care ajunge in toata lumea cum ca un om a reusit sa bata unul din cel mai tari programe de X din lume si ca acum e clar ca AI-urile astea (ChatGPT, etc.) nu sunt atat de bune cum crede lumea.
Asa ca putem dormi linistiti, AI-urile nu sunt o amenintare pentru munca si bunastarea noastra, FT face jurnalism de calitate si merita sa raspindim aceasta veste mai departe pe canalul de social media preferat.
Articolul din FT: https://www.ft.com/.../175e5314-a7f7-4741-a786-273219f433a1
Articolul cercetarii sursa: https://goattack.far.ai/human-evaluation#contents
Articole, evenimente si resurse utile acum:
Sambata, 25 martie 2023, la Bucharest Geek Hub, are loc al patrulea eveniment de board games organizat de Joculescu by howtoplay.ro unde o sa va puteti distra invatand si jucand 9 jocuri foarte bune, iar eu o sa le predau pe cele mai frumoase, Carcassonne si Sagrada. https://fb.me/e/3qzBG4Bhq
“You spend years trying to learn new stuff but then look back and realize that maybe like 10 big ideas truly changed how you think and drive most of what you believe. A few of mine:
1. Everyone belongs to a tribe and underestimates how influential that tribe is on their thinking.
2. Everything’s been done before. The scenes change but the behaviors and outcomes don’t.
3. Multi-discipline learning. There’s as much to learn about your field from other fields than there is within your field.
4. Self-interest can lead people to believe and justify nearly anything.
5. Room for error is underappreciated and misunderstood.
6. Sustainable sources of competitive advantage.
7. Your personal experiences make up maybe 0.00000001% of what’s happened in the world but maybe 80% of how you think the world works.”
“Here’s how to make your memory stronger:
* Your Brain Is Part Of Your Body: Take care of your body to take care of your brain. Most important: get your sleep.
* Encode: Remember the acronym, FOUR: Focus, Organize, Understand and Relate, Recruit Multiple Systems.
* Recall: Remember the acronym, RAMS: Relaxed, Aids To Memory, Minimize Interference, Situation.
* Normal Aging Or Alzheimer’s?: Memory worsens with age. Most problems are normal. If you are rapidly forgetting things – it just happened and it feels like it never occurred – that’s an issue. This happens to everyone occasionally but if you’re full-on Dory from “Finding Nemo”, see a doctor."
The best pieces of wisdom gathered from a body of work that spans 2,000 years.
Super tare ce a descoperit Michael Levin!! Nu doar ADN-ul ne ghideaza reproducerea celulara (ca un hardware), ci si un camp bioelectric care pastreaza informatia de ansamblu a organismului (ca un software) si care daca e modificat duce la formarea unor organisme anormale chiar daca nu am alterat in nici un fel ADN-ul lor.
“Design thinking is a set of mindsets, tools, and techniques which can be selected to arrive at an accurate problem definition and way to solve the problem.”
Unul din cele mai bune articole despre “customer segmentation” pentru “early startups”. “The surface-level rationale for segmentation is that it’s useful to divide up the customer base to customize and organize go-to-market efforts. For example, an account executive who always talks to customers in the same vertical may develop a more nuanced understanding of their pain points. We believe that in addition to adding focus to go-to-market efforts, customer segmentation helps prioritize product development efforts in a way that nurtures more happy customers.”
Un podcast excelent de 54 minute al lui Jane McGonigal "The Psychology of Gaming” in care vorbeste despre beneficiile jocurilor (e drept din perspectiva celor video, dar multe din aspecte se potrivesc si board games-urilor) si cateva idei extrase de mine ca sa vedeti ca merita sa il ascultati:
“And all you have to do to get somebody to transfer the benefits of games to real life is just have that conversation and you can do it with yourself to just have a little game during all every time you play a new game, you're like, well, what am I getting better at playing this game?”
“Games are just a great way to tell each other, you know, what we're good at and what we want to be appreciated for and what we value in each other. And so we should just have more of those conversations.”
Cel mai bun ghid despre SAFE notes pentru #tech #startup #founders.
Gamify List is the biggest listing of apps that leverage games to boost your motivation, productivity, and help you reach your objectives.
Le-am sustinut campania pe Kickstarter ca mi-a placut si jocul, si cauza. E al doilea joc creat de ei pe care il sustin.
“A Man Called Otto” (8/10) este un film emotionant, cu Tom Hanks in rolul principal, despre cum oricat de morocanos si deprimat ai fi nu poti rezista unei personalitati impetuoase si calde ca acea a lui Marisol.
Documentarul "The Alpinist" (8/10) e mai infricosator decat un film de groaza. Fiindca e real. Chiar si daca stai pe canapea, in siguranta, tot iti va fi greu sa te uiti la el in unele momente.
O actualizare remarcabilă a unui film clasic, "All Quiet on the Western Front" (9/10) te plasează direct pe câmpul de luptă - și îți amintește încă o dată că războiul este un adevărat iad. Un portret impresionant și sfâșietor al pericolelor naționalismului, al haosului și nebuniei din timpul luptei și al cicatricilor fizice și psihologice de durată produse de ambele. Merita vazut mai ales de catre cei care o sa evite sa il vada.