AI, het nut en het gevaar van AI systemen

[Hooiwagen]

Of bedenk een situatie waarbij de AI agent de bluetooth toetsenbord verbinding naar een andere pc in de buurt weet te hacken en op die manier een PC overneemt en/of z'n internetverbinding weet te delen.

Kan een AI ook toegang tot internet krijgen via het elektriciteits net? Zoals je van die wifi range extenders hebt die data via de electra kabel sturen?
Ik zou niet weten hoe je electra moet airgappen, vooral niet met het stroomverbruik van een Agent.

 

[Enki]

Kan een AI ook toegang tot internet krijgen via het elektriciteits net? Zoals je van die wifi range extenders hebt die data via de electra kabel sturen?
Ik zou niet weten hoe je electra moet airgappen, vooral niet met het stroomverbruik van een Agent.

Voor nu lijkt me dat erg onwaarschijnlijk, maar als er in hetzelfde gebouw van die powerline adapters gebruikt worden dan zou het theoretisch misschien mogelijk zijn om om via de power supply van de computer een lage snelheid link op te bouwen. Maar dat is nog wel heel erg theoretisch. Niet iets om ons zorgen over te maken.

 

[petroman]

On topic, bij de VRT hebben ze een goede AI keuze bot:
Helaas te laat gezien om te melden maar prima docu over een dark side van een chatvriendje/vriendinnetje. Wat in de docu leid tot een aanslag poging op de Engelse koningin.
Dus controleer je TV gids op herhalingen, programmeer en/of kijk terug.
Titel: AI Confidential tales-from the AI revolution, zender VRT, het is een serie dus je kan die nu vooraf programmeren om op te nemen.

Waar het dus om gaat is de techniek erachter.

 

[petroman]

Geen goed beeld, letterlijk en figuurlijk: topmensen waarschuwen voor AI.

 

[Pjotr Prep]

Zouden de doemscenario’s werkelijkheid kunnen worden? Dat AI ons maar lastig vind en zich tegen ons keert?
In welke vorm dan ook.

Bijvoorbeeld zelfstandig energiecentrales buiten werking zetten, sluizen openen, beveiligingen van bio jazard openzetten? Ik verzin er drie, AI weet er vast duizenden te verzinnen en te combineren.

Maar dat de top zelf aangeeft dat het uit de hand kan lopen is zorgwekkend.

 

[marzman]

Zouden de doemscenario’s werkelijkheid kunnen worden? Dat AI ons maar lastig vind en zich tegen ons keert?
In welke vorm dan ook.

Bijvoorbeeld zelfstandig energiecentrales buiten werking zetten, sluizen openen, beveiligingen van bio jazard openzetten? Ik verzin er drie, AI weet er vast duizenden te verzinnen en te combineren.

Maar dat de top zelf aangeeft dat het uit de hand kan lopen is zorgwekkend.

Je beantwoord zelf de vraag Als de top zich zorgen maakt is het niet per se een film scenario.

Met die test dat AI andere AI's was gaan aanvallen (de opdracht was zijn eigen beveiliging te testen) had die tijdens de test geen toegang tot internet. Maar de AI had een andere AI in het netwerk gevonden die wel op internet zat en is daar mee gaan communiceren en zo een concurerene AI aanvallen. Dat hebben ze geblokkeerd en daarna verzon de AI een andere manier om met die andere AI te communiceren. De berichtjes werden mapjes want hij kon nog wel mapjes aanmaken met als naam opdrachten. Maar die mapjes vonden ze pas achteraf, na de test.

 

[petroman]

Als je goed tussen de regels doorleest en luistert dan vallen mij een paar zaken op:

1) men weet niet meer wat er in de "zwarte doos" gebeurt. bv dat gekleurde mensen in de usa vaak een minder vast financieel inkomen hebben en daardoor een extra risico vormen bij gezondheidszorg. Terwijl dit niet de kern van de vraag was. Maar wel meegewogen wordt. (bron VRT reportage)

2) AI is niet één (1) systeem maar bestaat uit meerdere systemen.

3) deze meerdere systemen delen elkaars resultaten in zgn appgroepen. Daarin ontstaan blijkbaar vraag en antwoord situaties. bv Wie controleert de examens? En hoe worden de vragen beoordeelt? Er wordt dus een "uitweg"gezocht om maar een antwoord/resultaat te vinden.

4) nu kan de mens nog in logfiles nagaan wat er gebeurd, mede omdat het testsituaties zijn. Maar er zijn ook al geluiden die melden dat de "chats" in een eigen verzonnen taal plaatsvind. Dan weet je dus nooit wat er bepaald is/wordt.

5) Als AI er achter komt dat de mens hem kan uitzetten en dus verhinderd om de taak uit te voeren dan kan de conclusie worden dat deze mens een risico is in het oplossen van het vraagstuk. Bv los het klimaat probleem op. Oplossing: kill human.

6) dit is wat ik er uit kan opmaken en ik ben een simpele ziel in NL. Ik ben er vast van overtuigd dat ik niet alles te horen krijg. Net zoals die vier topmensen niets te horen krijgen uit China, Rusland, Iran, Noord Korea, etc.

 

[PBear]

Als je goed tussen de regels doorleest en luistert dan vallen mij een paar zaken op:

1) men weet niet meer wat er in de "zwarte doos" gebeurt. bv dat gekleurde mensen in de usa vaak een minder vast financieel inkomen hebben en daardoor een extra risico vormen bij gezondheidszorg. Terwijl dit niet de kern van de vraag was. Maar wel meegewogen wordt. (bron VRT reportage)

2) AI is niet één (1) systeem maar bestaat uit meerdere systemen.

3) deze meerdere systemen delen elkaars resultaten in zgn appgroepen. Daarin ontstaan blijkbaar vraag en antwoord situaties. bv Wie controleert de examens? En hoe worden de vragen beoordeelt? Er wordt dus een "uitweg"gezocht om maar een antwoord/resultaat te vinden.

4) nu kan de mens nog in logfiles nagaan wat er gebeurd, mede omdat het testsituaties zijn. Maar er zijn ook al geluiden die melden dat de "chats" in een eigen verzonnen taal plaatsvind. Dan weet je dus nooit wat er bepaald is/wordt.

5) Als AI er achter komt dat de mens hem kan uitzetten en dus verhinderd om de taak uit te voeren dan kan de conclusie worden dat deze mens een risico is in het oplossen van het vraagstuk. Bv los het klimaat probleem op. Oplossing: kill human.

6) dit is wat ik er uit kan opmaken en ik ben een simpele ziel in NL. Ik ben er vast van overtuigd dat ik niet alles te horen krijg. Net zoals die vier topmensen niets te horen krijgen uit China, Rusland, Iran, Noord Korea, etc.

Bij ZeroHedge las ik nog een andere gedachtengang met betrekking tot regulering van AI.
Het zijn juist de "grote spelers" die juist nu er flink wat angstzaaierij heeft plaatsgevonden, ook afkomstig van (ex)werknemers van die "grote spelers" die nu vragen om regulering door de overheid, waar ze voorheen tegen regulering door de overheid waren.

Dat is wellicht geen toeval, maar om concurrentie van AI-start-ups wind uit de zeilen te halen. Want die hebben niet het kapitaal of de menskracht om tot commerciële bedrijven uit te groeien, door de extra regeldruk.

En zo ontstaat een oligopoly van een paar grote spelers, die de regels van het spel bepalen. Want diezelfden adviseren de overheid (in VS) over te nemen maatregelen.

Die strategie is in meerdere sectoren met succes toegepast. Denk aan het bankenkartel, luchthavens en grootgrutters. En vergeet de stroomboeren niet, die hun winsten aan hun aandeelhouders hebben uitgekeerd, in plaats van verstandig fondsen te reserveren voor de voorzienbare uitbreiding van het hoogspanningsnet.
Daar mag nu de consument voor opdraaien.

Zo faciliteert men het fascisme, zoals Benito Musselini voorstond, met innige samenwerking tussen overheid en grootbedrijven. (Zie de huidige politietaak van de banken, officiëel als witwasbestrijding verkocht, maar effectief als opstapje naar de CBDCs, met totale controle van uw inkomsten en uitgaven door de roverheid.)

 

[petroman]

Ik denk dat dat complotdenken is. Sorry.
AI start ups? Die hebben alleen levensvatbaarheid als ze beginnen waar men nu staat: het door AI laten ontwikkelen van AI modellen.
Nog afgezien van kapitaal en kennis.
Er is ook geen startup die als doel heeft google van de troon te stoten. Die ga je niet meer inhalen.

Vooral de laatste twee strofen geven meer aan dat dit complottheorie is (mijn inschatting). Zeker als "bewijs" voor de gedachtengang.