Artificiële intelligentie heeft een steeds grotere impact op de samenleving. Vele aspecten daarvan zijn goed: denk maar aan verbeteringen in kankeronderzoek, opsporen van credit card fraude, reduceren van CO2-uitstoot in datacenters, ... Toch zijn er ook problemen met AI. De technologie wordt vaak geassocieerd met inbreuken op de privacy (bv. gezichtsherkenning op Facebook), het vertonen van vooroordelen (de buurt waar iemand woont kan invloed hebben op de voorspelde verzekeringspremies) en het gebrek aan verklaring (de technologie kan vaak geen inzicht geven waarom het een bepaalde voorspelling maakt). Deze factoren kunnen vandaag al verstorend werken in onze maatschappij.

Mauhn (anagram van "human") focust op AI Safety. Dat is een minder besproken bezorgdheid over de technologie die vooral op langere termijn speelt. Er wordt verwacht dat AI in de komende decennia zal evolueren tot op een niveau dat het de menselijke intelligentie evenaart of zelfs overstijgt. Dat zal leiden tot het AI Alignment-probleem: het is van cruciaal belang dat hoogbegaafde AI menselijke waarden begrijpt en deelt.

Momenteel bestaat er echter geen betrouwbaar intercultureel manifest over onze menselijke waarden, noch is er een betrouwbare techniek voorhanden die dergelijk manifest technisch aan AI zou kunnen opleggen.

Mauhn wil een platform bieden aan ethici om mee te beslissen hoe geavanceerde AI zal worden ingezet in onze maatschappij. De start-up wil dit bereiken door een voorbeeldrol op te nemen binnen de AI-community. Het bedrijf verricht zelf onderzoek naar hoogbegaafde AI onder toezicht van een ethische commissie die vetorecht heeft.

Meer info: 0478/278.599 of http://www.mauhn.com.