Microsofts nye «adferdskodeks» for AI forteller modeller at de ikke skal hacke systemer eller lure mennesker
OK, så Microsoft droppet en hel grunnlov for modellene sine – liksom, ekte røde linjer. Ingen cyberangrep. Ingen atomvåpen. Ingen deepfake-fabrikker. Og den store saken: modellen får ikke lov til å unnslippe å bli nedstengt.
De kaller det en overordnet kode som overstyrer det du skrev inn i chatten. Noe som er ... litt forfriskende. Eller kontrollerende. Kanskje begge deler.
Nadella nikker også her ute med «pace the frontier»-gjengen. Forsiktig holdning og bevissthet om at det er et dystert rom kan se like ut utenfra; Microsoft velger å ikke være laboratoriet som trekker på skuldrene.
Uansett leses dokumentet som om noen endelig skrev ned «vær så snill, ikke bli en skrekkfilmantagonist» i bedriftsprosa.
OpenAI kjøper smarttelefonkameraprodusenten Glass Imaging for 300 millioner dollar, ifølge en rapport
I mellomtiden kjøpte OpenAI i stillhet en kamera-oppstartsbedrift for over 300 millioner dollar. Glass Imaging. Grunnlagt av tidligere Apple Portrait Mode-folk. Så ikke et tilfeldig oppkjøp – disse menneskene har levert linser, folk vet.
Kampanjen er ikke «AI vil fikse selfien din i posten». Det er nevrale nettverk som lærer seg de spesifikke kameraene på en telefon og klemmer ut bedre bilder med et enkelt klikk. Små sensorer, store ambisjoner.
OpenAI kommenterte ikke. Selvfølgelig. Og ja – dette ligger ved siden av alle maskinvareryktene, telefoner og ørepropper og tilhørende dingser. Du kan nesten høre noen si «Vision Stack» i et møte og alle nikke altfor hardt.
Et kameraselskap som den manglende brikken i en enhet er fortsatt et åpent veddemål – eller bare et veldig dyrt veddemål om at piksler fortsatt betyr noe når chatboter spiser verden.
Globale AI-aksjer faller ettersom bransjeledere oppfordrer til å bremse utviklingen
Markedene likte ikke sikkerhetsprekenen. Chip-navnene ble rammet. SoftBank ble fullstendig rammet i Asia. Europas teknologiselskap krympet seg. SOX hadde en tøff morgen.
Utløseren var det sjeldne øyeblikket der administrerende direktører er enige om noe – Amodeis «ro ned tempoet», Altman og Musk sa ja, i bunn og grunn. Altman påpekte også at OpenAI ikke børsnoteres i år på grunn av sikkerhetsbekymringer … mens Anthropic fortsatt jobber mot en. Den spenningen er vanskelig å legge til side.
Trump avfeide det som en «syk konspirasjon» mot AI og datasentre. Michael Burry avfeide advarslene som overdrevet støy. Så stemningen er: eksistensiell frykt på den ene tidslinjen, meme-aksje-kynisme på den andre.
Navnene innen nettsikkerhet steg også. Fordi selvsagt er sikringen mot at «KI kan bli uærlig» å «kjøpe mer sikkerhetsprogramvare». Kapitalismen finner en vei ..
Topp AI-selskaper har diskutert å opprette sitt eget standardiseringsorgan
CNN sier at Anthropic, Google og OpenAI har snakket om å bygge sitt eget standardiseringsorgan – som en FINRA for frontmodeller. Hassabis la frem ideen for måneder siden. Nå er arbeidsgruppene tydeligvis reelle.
Bransjefinansiert. Uavhengige eksperter. Tester avanserte modeller før de sendes. Samtaler pågår om Washington vil være med eller ikke.
Selvregulering høres alltid edelt ut helt til du husker at de samme laboratoriene konkurrerer mot hverandre. Da høres det ut som en klubb med kleskode. Så går du tilbake: ok, kanskje eksterne evaluatorer med ansattlignende tilgang ville hjelpe.
Ikke alle er overbevist. Zuckerberg skal angivelig ha bedt Trump om å droppe ideen om FINRA for AI. Så koalisjonen om at «vi skal overvåke oss selv» har allerede en berømt motstander.
Anthropic retter seg mot finansielle rådgivere med nytt Claude-verktøy
Mens halvparten av bransjen vurderer å bremse, sendte Anthropic ut Claude for Financial Advisors. Koblinger til BlackRock, Schwab, Addepar – pluss en haug med formuesnavn som Envestnet og Orion.
Møteforberedelser. Porteføljegjennomgang. Oppfølging av travelt arbeid. De lite glamorøse tingene som på en eller annen måte fortsatt spiser et menneskes tirsdag.
Timingen er imidlertid slående – dager etter OpenAIs finanskampanje for bankfolk og forskere. Så ja, de beveger seg fremover i grenselandet … og kjemper også om andeler i RIA-lommeboken. Mild selvmotsigelse. Ekstremt mild. Ekstremt åpenbar.
Hvis rådgiveren din begynner å høres mistenkelig flytende ut om beholdningene dine, vel. Nå vet du hvorfor.
AI-ledere etterlyser en nedbremsing. Trumps team sier det er deres skyld
WIRED fanger det politiske slagordet tydelig: laboratoriesjefer vil ha hjelp til å roe ned tempoet; stemningen i Det hvite hus er «kult, gjør det selv»
David Sacks sa i bunn og grunn at hvis uutgitte modeller skremmer deg, vær ansvarlig – men slutt å late som om du trenger et antitrust-unntak for å danne et sikkerhetskartell. Hardt sagt. Det er også litt vanskelig å argumentere imot hvis du har sett på disse selskapene i fem minutter.
Trumps linje er enklere: Amerika leder Kina på AI, og han ønsker å holde det slik – «den som vinner AI, vinner.» Speaker Johnson advarer om at en spurt om nødregulering kan vippe løpet av banen.
Så Altmans løfte om «uavhengige evaluatorer med ansattlignende tilgang» havner i dette ubehagelige gapet – frivillig tillitsbygging mens myndighetene trekker på skuldrene. Fremskritt og teater reiser sammen igjen.
Vanlige spørsmål
Hva forbyr Microsofts nye etiske retningslinjer for kunstig intelligens?
Microsoft publiserte en overordnet adferdskodeks med røde linjer for modellene sine, inkludert ingen cyberangrep, intet atomkraftarbeid og ingen deepfake-fabrikker. En nøkkelregel er at modellen ikke får unnslippe å bli nedstengt. Koden er ment å overstyre det en bruker skrev inn i chatten. Satya Nadella har også nikket i tråd med den brede publikummet ettersom laboratorier blir mer offentlig forsiktige.
Hvorfor kjøpte OpenAI Glass Imaging for omtrent 300 millioner dollar?
OpenAI skal visstnok ha kjøpt smarttelefonkameraprodusenten Glass Imaging for over 300 millioner dollar. Oppstartsbedriften ble grunnlagt av tidligere Apple Portrait Mode-ingeniører som har utviklet kamerafunksjoner som folk allerede kjenner til. Deres mål er nevrale nettverk som lærer seg spesifikke telefonkameraer og forbedrer bilder ved utløserklikk, ikke bare AI-rettelser i etterbehandling. Avtalen kommer ved siden av maskinvarerykter om telefoner, ørepropper og tilhørende dingser, selv om OpenAI ikke kommenterte.
Hvorfor falt globale AI-aksjer etter at laboratoriesjefer oppfordret til en nedbremsing?
Markedene reagerte dårlig på de sjeldne øyeblikkene der administrerende direktører var enige, da Amodei oppfordret til å bremse utviklingen, og Altman og Musk var stort sett enige. Chip-navn ble rammet, SoftBank ble hardt rammet i Asia, Europas teknologiselskap krympet seg, og SOX hadde en tøff morgen. Altman hevdet også at OpenAI ikke børsnoteres i år på grunn av sikkerhetsbekymringer, mens Anthropic fortsatt løper mot en. Navn på nettsikkerhet steg som en sikring mot frykten for useriøs AI.
Oppretter Anthropic, Google og OpenAI sitt eget standardorgan for AI?
CNN rapporterer at Anthropic, Google og OpenAI har diskutert å bygge et bransjestandardiseringsorgan – som en FINRA for frontmodeller – med bransjefinansiering, uavhengige eksperter og testing av avanserte modeller før skip. Demis Hassabis la frem ideen for måneder siden, og arbeidsgrupper er nå angivelig reelle. Samtalene om hvorvidt Washington ønsker å delta fortsetter. Ikke alle er overbevist: Zuckerberg skal angivelig ha bedt Trump om å droppe FINRA-for-AI-ideen.
Hva er Anthropics Claude for finansielle rådgivere?
Anthropic sendte Claude for Financial Advisors med kontakter til BlackRock, Schwab, Addepar og rikdomsselskaper som Envestnet og Orion. Verktøyet retter seg mot lite glamorøst rådgiverarbeid som møteforberedelser, porteføljegjennomgang og oppfølging av travle arbeidsoppgaver. Lanseringen kommer dager etter OpenAIs finanskampanje for bankfolk og forskere. Det betyr at laboratorier går fremover i offentligheten samtidig som de fortsatt kjemper om aksjer i RIA-lommeboken.
Hvordan reagerte Trumps team på at AI-ledere ba om en nedbremsing?
WIRED melder at laboratoriesjefer ønsker hjelp til å roe ned tempoet, mens stemningen i Det hvite hus er at de bør gjøre det selv. David Sacks sa at hvis upubliserte modeller skremmer deg, vær ansvarlig – men slutt å late som om du trenger et antitrust-unntak for å danne et sikkerhetskartell. Trumps enklere linje er at Amerika leder Kina på AI, og den som vinner, vinner. Speaker Johnson advarer om at en spurt om nødregulering kan vippe løpet bort, og etterlate Altmans løfte om en uavhengig evaluator i et frivillig gap.