Nieuws
01 november 2019

Dell ziet veel verspilde gpu’s bij ai-projecten

Bijna tweederde van de ondernemers zegt bezig te zijn met kunstmatige intelligentie, ofwel artificial intelligence (ai), maar in de praktijk valt dit tegen. In plaats van ai is dikwijls slechts sprake van eenvoudige analyse. Vooral veel startups bluffen op dit punt om makkelijker investeerders te kunnen aantrekken. Bovendien blijft dure grafische rekencapaciteit vaak onbenut.
Dit stelt Tom van Peer, enterprise pre lead sales Dell Technologies, tijdens de gecombineerde beurzen Infosecurity.nl, Data & Cloud Expo in Jaarbeurs Utrecht. Hij begon zijn presentatie met een terugblik op de geschiedenis van ai. In de begindagen draaide ai om hele slimme algoritmes met zo min mogelijk data. Thans is het omgekeerde het geval. Niet zulke slimme algoritmes worden losgelaten op veel data. Dit komt omdat de data-opslag goedkoop is geworden terwijl ook de computerkracht haast niet aan te slepen is.

Ondanks de enorme opslagmogelijkheden doen nieuwkomers in de ai er verstandig aan met iets kleins te beginnen, stelt Van Peer. Begin met weinig data, is zijn advies. Want als je te grootschalig van start gaat, kan het misgaan. Dan ontstaan bottlenecks. Van Peer ziet vaak dat hele dure gpu’s (graphics processing units) tijdens het trainen van modellen en algoritmes de helft van hun tijd of meer niets staan te doen. De storage die de trainingsdata moet leveren, is dan niet snel genoeg.  

Van Peer kent gevallen waarbij servers met 10 gpu’s van 10.000 euro per stuk en ssd’s maar 20 procent van de tijd nuttig werk doen. 80 procent van de tijd moeten ze wachten op data. Het ontbreekt dan aan voldoende bandbreedte. Als het systeem volloopt kan de vertraging enorm oplopen. Dit kan plotseling gebeuren.

Lees verder >>

FacebookTwitterLinkedinMailPrint

Lees ook

ICT vacatures
Hoofdmediapartner

Computable

Mediapartners