Stelling: een AI-systeem heeft altijd gelijk
In deze video zie je Irene Niet (promovenda aan de TU Eindhoven). Zij bestudeert de maatschappelijke en ethische aspecten die komen kijken bij de energietransitie. Ze gaat in op ethische stellingen. In deze video de stelling: Een AI-systeem heeft in principe altijd gelijk.
Transcript:
Het is dus heel belangrijk dat we goed en kritisch na blijven denken over onze apparaten. Maar het is ook belangrijk dat we ze niet lukraak blijven geloven. Er kan veel mis gaan in deze apparaten. Het is een precair systeem van communicatie, van verschillende IT dingen, en sensoren. Voor monteurs, en andere mensen die deze apparaten aansluiten, is het daarom belangrijk om allereerst de apparaten niet altijd op hun woord te geloven. Da's best moeilijk, want we zijn er heel erg aan gewend dat de computer meer dingen weet dan wij, dat de computers slimmer is. Maar dat is niet altijd waar, sensoren moeten maar net goed afgesteld zijn, en ze moeten maar net op de juiste manier met elkaar communiceren. Daarom is het belangrijk dat we blijven geloven in mensen, want uiteindelijk is ook een IT-systeem mensenwerk. En, het is belangrijk dat apparaten en systemen gecheckt blijven worden. Meestal vinden we wel welletjes als een systeem eenmaal is aangesloten, en dan vertrouwen we blindelings op apparaten. Dat zouden we eigenlijk niet moeten doen, want ook sensoren die aangesloten zijn aan AI systemen kunnen makkelijk uit het lood raken. Aangezien we het hier hebben over AI systemen, betekent dat dat het hele programma meteen in de war raakt. Dus, is het belangrijk dat we blijven checken of de programma's juist werken, dat we in de gaten blijven houden dat alles goed gaat, en dat we niet geloven dat AI slimmer is dan wij, want dat is het niet..