Mohammad Moghtader zat 's ochtends aan een ronde tafel met MSP's uit Amerika, Azië en Nieuw-Zeeland. Over AI en de vraag wie verantwoordelijk is als het een fout maakt. Bij zijn bedrijf werken agents mee als fictieve collega's, met vaste steekproeven. De volgende stap: met een student van de TU Eindhoven taalmodellen zelf hosten op lichte hardware.
Hé Mo, we zijn hier op MSPade Global in Barcelona. Je hebt vanochtend ook al een 100 tafelsessie erop zitten. Wat viel je het meest op? Het gaat hier ook voornamelijk over AI, dat viel me op. En ja, eigenlijk wel gelukkig de de wat meer de belangrijke aspecten van hoe veilig is het? Kunnen we er blind op vertrouwen? In plaats van hoe het de afgelopen periode was tot iedereen juist AI, AI, AI. Is het nou toch meer van oké, hoe kunnen we het waarborgen tot het veilig is? Waar denk je aan? Wat implementeer je? Wat doe je? Dus daar ben ik wel blij mee dat die topics nou steeds besproken worden. Ja, want ik denk dat best wel veel MSP's daar echt wel mee. We zien natuurlijk wel dat er denk ik veel intern ook al gedaan wordt met de AI. Stap naar buiten is nog best wel een grote uitdaging, maar ik denk ook gewoon het hele compliance stuk governance stuk daaromheen en hoe regel je het nou op een goede manier dat dat best nog wel uitdagend is. Dat was ook een van hun punten. Tot als straks AI zodanig geautomatiseerd is, kun je dan eigenlijk blind op AI blijven vertrouwen? En stel AI maakt een fout, wie is dan uiteindelijk de eindverantwoordelijke? Dus wie kun je uiteindelijk accountable houden voor zeg maar ja, dat probleem? Ja, dus ik ben oprecht blij dat ze daar over denken en ik vind ook dat accountability, dat is gewoon iets belangrijks. Het moet niet zo zijn dat als wij iets verkeerd doen wij heel makkelijk kunnen wijzen. Ja, het was de AI. Nee, iemand in de organisatie heeft wel die keuze gemaakt om dat te gaan gebruiken. Dus ja, is hij of zij zeg maar verantwoordelijk of is het dan juist de programmeur die dat voor bijvoorbeeld die manager gebouwd heeft of voor die eigenaar gebouwd heeft? Is die dan verantwoordelijk? Dus dat vind ik wel een 1 hele valide iets om ook over na te denken zeg maar. Maar dan moet je als MSP denk ik ook goed over nadenken, hè? Want als je AI-diensten gaat aanbieden aan je eindgebruiker, ja wie is waar verantwoordelijk voor? Ja, ja, 100 procent. Nou ging het voornamelijk eerst nog over interne tooling, dus wat je voor jezelf gebouwd hebt. Maar ja, die fouten kunnen net zo catastrofaal zijn als je het zo noemt als zeg maar als je het voor klanten zelf neerzet. Ik vind het wel een belangrijk iets. Ja, bij ons hebben wij meerdere verantwoordelijkheden voor de AI wat wij zelf implementeren. Dus wij hebben daar wel al aan gedacht zeg maar. Maar in Europa we daar naar mijn mening toch wel wat verder in als de andere continenten zeg maar over AI, maar ook vooral verantwoordelijkheid dat je echt iemand kunt aanwijzen. Dus ja, in dat opzicht hebben wij daar wel al over nagedacht, maar ik snap dan wel dat hier dan heel veel vraag is vooral vanuit buiten de EU, want de round table zaten ook mensen vanuit Amerika, zaten wat mensen vanuit Azië, eentje zelfs vanuit Nieuw-Zeeland die daar dan weer wel mee aan het battelen zijn van oké, wie is de verantwoordelijke? Wie wie wie mag ik aanwijzen of wat dan ook? Dus ja, wel blij dat dat buiten de EU nou ook een belangrijke topic aan het worden is. En jullie zijn intern natuurlijk best wel veel met AI. Kun je daar nog eens even wat over vertellen? Ja, wij hebben fictieve collega's, agents die eigenlijk ons ondersteunen bij processen zeg maar. Servicedesk, web marketing, administratie, facturatie vragen, noem maar op. En ja, een van de dingen wat wij wel doen en dat was ook een beetje waar we tijdens de round table een beetje over hadden, is controleren jullie nog wel ook alles hier en daar handmatig of vertrouwen jullie? Wanneer mag je volledig blind op de AI vertrouwen? Wij zullen dat nooit verwachten. Althans zolang ik bij het bedrijf betrokken ben, gaan we dat nooit volledig vertrouwen. Ik vind wel dat je gewoon security measures moet hebben en wat vaste random checks moet hebben om te kijken of het nog steeds wel performt op de manier hoe het moet performen en of het gewoon de juiste dingen aan het uitvoeren is en niet stiekem met andere dingen zeg maar bezig is. Hé en welke welke wat is next? Welke stap komt hierna eigenlijk voor jullie met EA? Jullie hebben al best wel meters gemaakt. Wat wat wat is het volgende? Hele goede vraag. Ik denk als je het aan mij vraagt zal je antwoord ander antwoord krijgen als onze AI programmeurs of Asmar compagnon. Voor mijzelf vind ik uiteindelijk het het vergroeningsronde vind ik het belangrijkste dat we toch wel wat van de language modiles zelf kunnen gaan hosten en niet afhankelijk zijn van de hele grote bedrijven die al het geld daarvoor hebben om dat voor ons beschikbaar te stellen. Wij zijn momenteel ook met een student bij ons bezig van de TU in Eindhoven die dat dus voor ons aan het onderzoeken is van in hoeverre kan ik bepaalde language models op eigenlijk zo min mogelijk sterke hardware laten draaien tot het wel performt binnen de tijdspan en de kwaliteit antwoorden die de klant of die wij zelf zouden willen hebben zeg maar. En ja, hij zit zodanig aan de knopjes te draaien en hij zit hele gekke dingen te doen waarvan ik zoiets heb van wauw, daar kijk ik wel echt naar naar uit. Dus voor mij persoonlijk is dat het. We kunnen niet verwachten tot iedereen een datacentra heeft met servers van het ton per stuk. Uiteindelijk moeten we doen met alles wat we nu in huis hebben. En ja, ik denk dat dat de next thing for AI moet zijn.
We gebruiken noodzakelijke cookies voor een werkende site. Met jouw toestemming ook cookies van Wistia en Vimeo, die meten wat er bekeken wordt. De video's spelen ook zonder. Cookiebeleid
