Hoi, ik ben Abhik Sarkar.
Ik ben Director of Machine Learning bij Cloudastructure Inc, waar ik ons computervisieplatform heb opgeschaald van 100K naar 12 miljoen video’s per dag, en ik beheer het on-prem GPU-cluster waarop het draait.
Kom je hier via een artikel of een paperbespreking? Hoi, die heb ik geschreven. Op deze site leg ik uit wat ik onderweg leer, van GPU-optimalisatie en transformers tot videocodecs en de papers erachter, meestal met iets waar je zelf mee kunt spelen.
Vertaald uit het Engels.
Volg me
Begin hier
Kies het formaat dat je aanspreekt. Elk begint met een stuk dat de moeite waard is om eerst te lezen. Artikelen, concepten en papers zijn in het Engels.
Artikelen
Uitgebreide stukken uit mijn werk in productie: GPU’s, videocodecs en de interne werking van Python.
How TensorRT WorksConcepten
Korte interactieve uitleg over ML, GPU’s en systemen, gegroepeerd per onderwerp.
Flash Attention: IO-Aware Exact AttentionPapers
Besprekingen van machine-learningpapers, met demo’s die je in de browser kunt draaien.
ViT: An Image is Worth 16x16 WordsMijn verhaal
Wat ik nu doe
Bij Cloudastructure gebruik ik deep learning en computer vision om veiligheid en beveiliging te verbeteren. In de praktijk betekent dat Python, C++, TensorRT, PyTorch, CUDA, Docker en React.js, plus MLOps-tooling en gedistribueerde systemen voor grootschalige videoverwerking. Ik werf en leid ook het team, verspreid over 11 landen, en ik vertel over dit werk op conferenties.
Gesproken op
Alle talks- EuroPython
- PyCon Italia
- PyCon India
- PyCon Japan
- BangPypers
- DevFest
Waarom GPU’s
Ik ben per ongeluk performance-engineer geworden.
Het begon als een manier om het bedrijf geld te besparen. Toen ontdekte ik dat decoders zoals NVDEC apart silicium zijn naast de CUDA-cores, zodat decoderen, voorbewerken en inferentie tegelijk op verschillende delen van de GPU kunnen draaien. Door ze als pipeline te laten lopen haalden we een 3x snellere verwerking en bespaarden we op schaal duizenden aan infrastructuurkosten. Sindsdien ben ik verslaafd: CUDA-kernels, geheugentoegangspatronen en TensorRT-grafoptimalisatie, helemaal tot aan de bezetting van streaming multiprocessors.
Naast mijn werk
Ik ben mentor, geef workshops en schrijf hier om te delen wat ik leer. Weg van het toetsenbord vind je me bij quizzen of terwijl ik de nieuwste tool uitprobeer.
Waar ik warm voor loop
- Machine learning
- GPU-performance-engineering
- Software-engineering
- Python
- Open source
- Quiz
- Data-engineering
Hoe ik hier kwam
Ik heb meer dan 8 jaar ervaring als machine-learning-engineer en full-stackontwikkelaar. Mijn opleiding ligt in de informatica: een Bachelor of Technology in Computer Science and Engineering aan het National Institute of Technology, Raipur, in India, gevolgd door vakken op masterniveau in Introduction to High-Performance Computing aan het Indian Institute of Science, Bangalore, en CS224W: Machine Learning with Graphs via het Stanford Center for Professional Development. De volledige lijst staat in mijn cv en diploma’s, en mijn expertisegebieden laten zien over welke onderwerpen ik schrijf.
Artikelen die ik aanraad
Een selectie artikelen die mijn denken en mijn kijk op technologie hebben gevormd.
- Making Deep Learning go Brrrr From First Principles — Horace He
- Transformers from Scratch — Brandon Rohrer
Zeg hallo
Mailen is de beste manier om me te bereiken, waarvoor dan ook.
Stuur me een mail