Notebooks in Fabric voor data engineering
Fabric-notebooks voor data engineering: werk met PySpark, Lakehouses, bronvalidatie, herstartbaarheid en gecontroleerde Delta-verwerking.
Lees artikel →Vind de juiste training en kies het niveau dat bij je past.
Samenwerken & moderne werkplek
Dagelijks productiever werken
Data omzetten in inzichten
Copilot, AI en slimme processen
Ontdek trainingen voor jouw team, afgestemd op jullie dagelijkse praktijk.
Samenwerken & moderne werkplek
Dagelijks productiever werken
Data omzetten in inzichten
Copilot, AI en slimme processen
Ontdek wie we zijn, hoe we werken en wat anderen van onze trainingen vinden.
Microsoft Fabric en het moderne data platform.
Fabric-notebooks voor data engineering: werk met PySpark, Lakehouses, bronvalidatie, herstartbaarheid en gecontroleerde Delta-verwerking.
Lees artikel →Data Factory-pipelines in Fabric: ontwerp broncontracten, dependencies, retries, idempotente verwerking en controles voor een betrouwbare gegevensketen.
Lees artikel →Lakehouse of Warehouse in Microsoft Fabric? Vergelijk SQL, Spark, architectuur, beheer en echte praktijkcases voor een weloverwogen keuze.
Lees artikel →Uitleg over OneLake in Fabric: opslag, Delta-tabellen, shortcuts, datakwaliteit, toegang en een praktijkvoorbeeld met een centrale productmaster.
Lees artikel →Wat is Microsoft Fabric? Microsoft Fabric is een geïntegreerd analyseplatform waarin diensten voor gegevensinname, data engineering, datawarehousing, realtime analyse en business intelligence samenkomen. Een organisatie kan in één.
Lees artikel →Microsoft Fabric brengt verschillende gegevensactiviteiten samen, waaronder data-integratie, opslag, engineering, analytics en Power BI. Voor organisaties die al Power BI gebruiken, kan dat mogelijkheden bieden om bronnen en rapportages dichter bij elkaar te o…
Lees artikel →Controleer of vereiste kolommen bestaan, of datatypen en sleutels kloppen, welke records ontbreken en hoe dubbelen worden behandeld. Documenteer daarnaast de toegestane zakelijke uitzonderingen zoals retouren of gecorrigeerde orders. Sla afgekeurde records waar nodig apart op met een reden. Vergelijk bron- en doelaantallen volgens de vastgelegde verwerkingsregels en voer een steekproef op bedragen uit.
Copilot of een andere AI-assistent kan codevoorstellen en uitleg leveren, maar de inhoudelijke en technische beoordeling blijft noodzakelijk. Controleer onder meer het gebruik van datatypen, sleutelvelden, join-logica, foutafhandeling en toegangsrechten. Beschikbaarheid van AI-functionaliteit verschilt per Fabric-omgeving en licentie. Test gegenereerde code met niet-gevoelige voorbeelddata voordat deze op productiebronnen wordt toegepast.
Een notebook voert programmeerbare gegevensverwerking uit, bijvoorbeeld met PySpark, en kan controles of transformaties uitvoeren. Een Data Factory-pipeline regelt veelal wanneer verschillende activiteiten plaatsvinden, in welke volgorde en wat bij een fout moet gebeuren. Een pipeline kan een notebook aanroepen. Bij een betrouwbare inrichting blijven de transformatielogica, de procesafhankelijkheden en de logging herkenbaar gescheiden. Niet iedere eenvoudige kopieeractie heeft een notebook nodig.
PySpark is passend wanneer gegevens met Spark moeten worden verwerkt, bijvoorbeeld voor complexere transformaties, joins of kwaliteitscontroles op grote datasets. Voor eenvoudige, voornamelijk SQL-georiënteerde werkzaamheden kan een andere Fabric-dienst beter passen. De keuze hangt af van de datavolumes, bestaande kennis, kosten, herhaalbaarheid en vereiste bewerkingen. Test een representatieve proef voordat een volledige bronketen wordt omgezet.
Gebruik een stabiele zakelijke sleutel, bepaal hoe nieuwe en bestaande records worden verwerkt en ontwerp de uitvoer voor herstartbaarheid. Een Delta-MERGE kan in geschikte scenario’s bijdragen aan gecontroleerde verwerking. Voer dezelfde levering bewust tweemaal uit en controleer aantallen en omzet. Maak daarnaast afspraken over gedeeltelijk mislukte uitvoeringen; alleen een succesvolle eerste run bewijst niet dat opnieuw starten veilig is.
Een pipeline regelt de volgorde en afhankelijkheden tussen activiteiten, bijvoorbeeld kopiëren, valideren en publiceren. Een notebook voert code uit voor analyse of transformatie. Een pipeline kan een notebook aanroepen, maar beide hebben een eigen verantwoordelijkheid. Wanneer de notebook technisch geslaagd is maar verkeerde aantallen produceert, moet de pipeline nog steeds een afzonderlijke kwaliteitscontrole kunnen uitvoeren voordat de rapportagelaag wordt bijgewerkt.
Ontwerp de lading idempotent: een tweede verwerking van dezelfde brondatum of dezelfde order mag niet tot dubbel tellen leiden. Gebruik stabiele sleutels, een runidentificatie, tijdelijke landingslagen en waar passend een gecontroleerde samenvoegstap. Test een storing na het kopiëren en vóór publicatie. Alleen een retry instellen is onvoldoende, omdat een deels uitgevoerde append-bewerking al gegevens kan hebben weggeschreven.
Retries zijn nuttig bij tijdelijke storingen, zoals een korte netwerkonderbreking of throttling. Structurele fouten zoals onjuiste authenticatie, ontbrekende kolommen of een blijvend ongeldig bronbestand vragen inhoudelijk herstel. Configureer waar ondersteund het aantal pogingen en wachttijd per activiteit. Controleer of herhaling veilig is en bewaak de totale doorlooptijd; een groene pipeline die pas na de rapportagedeadline klaar is kan alsnog een incident zijn.
Een bruikbare registratie bevat minimaal bron, dataperiode, run-ID, start- en eindtijd, verwacht aantal records, geaccepteerd aantal, afgekeurde records en de uiteindelijke publicatiestatus. Voeg waar zinvol een controlebedrag of bronversie toe. Vermijd het opslaan van gevoelige persoonsgegevens in foutmeldingen. Het log moet zowel een technisch beheerder helpen bij herstel als de proceseigenaar bij het beoordelen van de inhoudelijke volledigheid.
Pas na de afgesproken inhoudelijke controles. Dat betekent bijvoorbeeld dat bron- en doelaantallen kloppen, verplichte sleutels geldig zijn en uitzonderingen volgens beleid zijn verwerkt. Technische voltooiing van kopiëren is niet hetzelfde als een goedgekeurde dataset. Leg een expliciete afhankelijkheid tussen validatie en publicatie vast, zodat dashboards niet onbedoeld gedeeltelijke of verouderde gegevens presenteren.
Een Lakehouse is vooral geschikt wanneer ruwe bestanden, verschillende gegevensformaten en Spark-verwerking centraal staan. Het kan bijvoorbeeld CSV- en JSON-invoer ontvangen en stapsgewijs verwerken tot Delta-tabellen. Een Warehouse is vaak geschikter voor relationeel opgebouwde rapportagegegevens en SQL-georiënteerde teams. De keuze moet worden getest met de werkelijke bronnen, datavolumes en rapportagevragen; niet iedere organisatie heeft beide onderdelen nodig.
Ja. Een Fabric Lakehouse heeft een SQL analytics endpoint waarmee de beschikbare Delta-tabellen kunnen worden geraadpleegd. Dat betekent niet dat deze endpoint dezelfde schrijfmogelijkheden heeft als een Warehouse. Voor transformaties of mutaties moet de juiste ondersteunde route worden gekozen, bijvoorbeeld een notebook of pipeline. De afweging is belangrijk wanneer een team alle bestaande SQL-processen één op één wil migreren.
Niet in alle omstandigheden. Prestaties hangen af van het querypatroon, tabelontwerp, gegevensvolume, capaciteit en de gekozen verwerking. Een Warehouse kan aantrekkelijk zijn voor complexe relationele SQL-analyses; een Lakehouse sluit beter aan op uiteenlopende bestanden en Spark-activiteiten. Vergelijk beide opties met dezelfde dataset en meet querytijd, verwerking, gelijktijdige belasting en beheerinspanning voordat een definitieve keuze wordt gemaakt.
Ja. Een gangbare aanpak is ruwe gegevens en transformaties in een Lakehouse onder te brengen en gecontroleerde rapportagetabellen in een Warehouse beschikbaar te maken. Daarbij moet wel duidelijk zijn welke laag de gezaghebbende gegevens bevat, welke definities worden toegepast en hoe mislukte verwerkingen worden afgehandeld. Extra onderdelen vergroten de beheervraag; een combinatie is alleen zinvol wanneer die aantoonbaar waarde toevoegt.
Voor dit onderwerp past een leerroute over data engineering, Fabric-architectuur of Power BI-datamodellen. Welke training daadwerkelijk aansluit, hangt af van de rol en het gebruikte platform. Een organisatie met een SQL-team heeft doorgaans andere oefenvragen dan een team dat met Spark-notebooks werkt. AI of Copilot kan aanvullende ondersteuning bieden bij code en documentatie, maar vervangt architectuurkennis niet.
Nee. Bestanden kunnen eerst opschoning, typecorrecties of omzetting naar tabellen nodig hebben. Vervolgens moet een geschikt semantisch model worden ingericht met correcte relaties, measures en toegangsrechten. Centrale opslag garandeert geen juiste bedrijfsdefinitie of actueel rapport.
Deze lagen ondersteunen een onderscheid tussen herleidbare brondata, gecontroleerd bewerkte data en bedrijfsgerichte analysegegevens. Het gaat om een ontwerpconventie, niet om een automatische kwaliteitsgarantie. Bij elke overgang blijven controles op volledigheid, dubbelen en zakelijke regels noodzakelijk.
Vergelijk aantallen, sleutels en brontotalen na verwerking, leg herkomst en tijdstempel vast en test wijzigingen van de bron. Controleer daarnaast of niet-gemachtigde gebruikers werkelijk geen toegang hebben. Een succesvolle technische taak betekent nog niet dat de bedrijfsinformatie juist is.
Nee. OneLake is de gedeelde opslaglaag van Fabric. Een lakehouse is een afzonderlijk Fabric-item met bestanden en tabellen. Een organisatie kan meerdere lakehouses in verschillende werkruimten beheren. Het eigenaarschap en de toegangsrechten moeten per gegevensproduct duidelijk zijn.
Een OneLake-shortcut verwijst naar gegevens op een ondersteunde bronlocatie. De data hoeven daardoor niet noodzakelijk opnieuw in de doelwerkruimte te worden opgeslagen. Dat neemt afhankelijkheid van beschikbaarheid, formaten en toegangsrechten van de bron niet weg.
OneLake is de geïntegreerde opslaglaag van Microsoft Fabric. Een lakehouse is een Fabric-item dat bestanden en Delta-tabellen voor specifieke analyse- of engineeringtaken organiseert. Een organisatie kan meerdere lakehouses gebruiken binnen dezelfde algemene OneLake-architectuur.
Een warehouse is vaak logisch wanneer een team voornamelijk relationele tabellen en T-SQL-processen gebruikt. Een lakehouse sluit beter aan bij bestanden, Spark en data-engineeringworkloads. De beste keuze volgt uit benodigde functionaliteit, datatypen, transacties, beheer en prestaties; beide kunnen samen worden ingezet.
Dit zijn gebruikelijke lagen in een medallion-architectuur. Bronze bevat herkenbare brongegevens, Silver bevat bewerkte en gecontroleerde data en Gold bevat bedrijfsgerichte tabellen voor rapportage. De laagbenamingen alleen garanderen geen kwaliteit; iedere overgang vraagt om meetbare controles.
Nee. Bestaande rapporten en semantische modellen kunnen vaak onderdeel blijven van een gefaseerde architectuur. Migratie is alleen zinvol wanneer er een concreet voordeel ontstaat, bijvoorbeeld beter hergebruik van data, governance of verwerking. Controleer voor migratie de afhankelijkheden van bronnen, modellen en rechten.
Controleer volledigheid en aantallen per verwerkingsstap, de juistheid van bedrijfsdefinities, autorisaties voor echte eindgebruikers, herstartbaarheid na fouten en het capaciteitsverbruik. Een end-to-end proef met representatieve gegevens is informatiever dan alleen een geslaagde pipeline-uitvoering.
Nee, meestal niet uitsluitend vanwege de introductie van Fabric. Power BI blijft een onderdeel van het bredere Fabric-platform. Welke content aangepast moet worden, hangt af van bronverbindingen, semantische modellen, opslagkeuzes en governance. Begin met het inventariseren van bestaande rapportketens en kies één afgebakende usecase. Voorkom dat technische vernieuwing onbedoeld zakelijke KPI-definities verandert.
OneLake biedt een overkoepelende opslaglaag voor Fabric-workloads. Een organisatie kan daar gecontroleerde databronnen beschikbaar maken voor bijvoorbeeld een lakehouse, warehouse en semantische modellen. De aanwezigheid van OneLake betekent niet dat brondata automatisch correct of veilig zijn. Brongegevens, validatieregels, data-eigenaarschap, autorisaties en verversingsprocessen blijven ontwerp- en beheertaken.
Dat hangt af van de gebruikte Fabric-opslag, dataomvang, vereiste actualiteit, modelbeperkingen en beschikbare capaciteit. Import heeft een expliciete verversingscyclus en kan voorspelbaar werken; DirectQuery leunt op de bronprestaties. Direct Lake kan in geschikte scenario’s efficiënt met OneLake-data werken, maar kent voorwaarden. Test representatieve queries, beveiliging en werkelijk uitvoeringsgedrag voordat de opslagmodus wordt gekozen.
De pilot moet laten zien dat gegevens compleet zijn, zakelijke cijfers overeenkomen met de afgesproken referentie, gebruikersrechten correct werken en prestaties en kosten acceptabel zijn. Test bovendien storingen en herstartbaarheid. Een technisch geslaagde data-import is onvoldoende wanneer rapporten verschillende margedefinities tonen. Houd de oude rapportketen tijdelijk beschikbaar totdat de verantwoordelijke partijen de nieuwe route hebben geaccepteerd.
Begin met een werkbelastingprofiel: verversfrequentie, ingestie, notebooks, rapportvragen en piekuren. Monitor de daadwerkelijke capaciteitsbelasting en vergelijk die met de vooraf gemaakte raming. Houd rekening met opslag, licenties en beheer. Kies schaal- en pauzeerafspraken die passen bij de beschikbaarheidseisen. De actuele SKU’s, prijzen en licentievoorwaarden moeten bij Microsoft worden gecontroleerd.
Er is geen specifieke cursus aan dit onderwerp gekoppeld. Bespreek de mogelijkheden voor een maatwerktraining.