# Automatisering og CI/CD

> Utvalgt arbeid fra Engineer ApS som viser Automatisering og CI/CD — resultatene som beviser det.

- [Utviklet en pipeline for timesaggregering av strømforbruk i Python / SQL / Bash + Jq som oppnådde 180 ms for datasett på 30 dager fra heterogene JSONL‑kilder.](https://data.engineer.company/nb/portfolio/engineered-hourly-electricity-consumption-aggregation-pipeline-in-python-4/)
- [Løste 1 000 problemer i geografiske data og tidsseriedata med GDAL, ArcGIS, PostGIS, Mapbox, QGIS, SQL (PL/pgSQL, Transact‑SQL) og Bash, og sikret behandling av stordata med høy kvalitet.](https://data.engineer.company/nb/portfolio/resolved-1-000-issues-in-geographical-data-and-7/)
- [Designet, implementerte og administrerte 6 ETL/ELT‑pipelines med Google BigQuery, MSSQL, PostgreSQL, Shell‑skripting, PL/pgSQL og Transact‑SQL, og integrerte data for effektiv behandling i et Python‑API.](https://data.engineer.company/nb/portfolio/designed-implemented-and-administered-6-etl-elt-pipelines-8/)
- [Utviklet og lanserte selskapets første dashbord for observerbarhet, med sanntidsinnsikt i systemytelsen og datavisualisering på den store TV‑skjermen på kontoret.](https://data.engineer.company/nb/portfolio/developed-and-launched-the-company-s-first-observability-9/)
- [Designet, satte i produksjon og vedlikeholdt 10 PostgreSQL- og MS SQL‑servere på Ubuntu Linux‑VPS‑er, og sikret optimal serverytelse og pålitelighet.](https://data.engineer.company/nb/portfolio/designed-deployed-and-maintained-10-postgresql-and-ms-13/)
- [Styrket datasikkerheten ved å innføre 1 000 RBAC‑regler for utviklere, applikasjonsinstanser, PostgreSQL, MS SQL og andre Linux‑servere, og forhindret uautorisert tilgang; dokumentert med Ansible‑automatisering.](https://data.engineer.company/nb/portfolio/enhanced-data-security-by-implementing-1-000-rbac-14/)
- [Automatiserte produksjonssettingen, databehandlingen og rapporteringssystemet for en GIS SaaS‑applikasjon med GitHub Actions CI/CD, Python, Bash og SQL.](https://data.engineer.company/nb/portfolio/automated-gis-saas-application-deployment-data-processing-and-16/)
- [Automatiserte leveransen av 20 GIS‑datapipelines og ETL‑prosesser for applikasjonsdata, og effektiviserte infrastrukturautomatisering og rapportering.](https://data.engineer.company/nb/portfolio/automated-delivery-of-20-gis-data-pipelines-and-17/)
- [Automatiserte 100 kritiske sikkerhetskopier av data med Barman, Google Cloud, Bash og Python, og sikret dataintegriteten på tvers av databasene.](https://data.engineer.company/nb/portfolio/automated-100-critical-data-backups-using-barman-google-18/)
- [Effektiviserte prosessene for dataanalyse og programvareutvikling og sparte 4 000 timer ved å innføre CI/CD‑praksis med GitHub, GitLab, Bash og Python.](https://data.engineer.company/nb/portfolio/streamlined-data-analysis-and-software-development-processes-saving-43/)
- [Utviklet et rapporteringssystem for dataanalyse og økte kvartalsinntektene fra programvaren med 400 % gjennom Python‑baserte PDF‑rapporter.](https://data.engineer.company/nb/portfolio/developed-a-data-analytics-reporting-system-increasing-quarterly-44/)
- [Automatiserte databehandlingsoppgaver med Shell‑skripting, PL/pgSQL, Python og Transact‑SQL, og økte produktiviteten og effektiviteten.](https://data.engineer.company/nb/portfolio/automated-data-processing-tasks-using-shell-scripting-pl-45/)
- [Utviklet 600 PL/pgSQL‑baserte ETL/ELT‑pipelines for å effektivisere komplekse arbeidsflyter for databehandling på tvers av flere utviklings- og produksjonsmiljøer i PostgreSQL.](https://data.engineer.company/nb/portfolio/engineered-600-pl-pgsql-based-etl-elt-pipelines-54/)
- [Designet et system for tidsstyring og rapportering som var i produksjon i årevis uten vesentlige endringer.](https://data.engineer.company/nb/portfolio/designed-a-time-management-and-reporting-system-that-88/)
- [Flyttet tregt arbeid ut av forespørselsbanen og over i en River‑jobbkø — 15 worker‑moduler, 8 planlagte oppgaver og 20 pg_cron‑jobber — slik at en forespørsel returnerer mens arbeidet bak den fortsetter.](https://data.engineer.company/nb/portfolio/moved-slow-work-onto-a-river-job-queue-97/)
- [Skrev en avgrensningsregel inn i repoet etter at en omstrukturering hadde ført et annet selskaps inventar, brannmuråpninger og tekst inn i det — og holdt de karantenesatte restene under skanneren for hemmeligheter i stedet for å unnta dem.](https://data.engineer.company/nb/portfolio/wrote-a-scope-rule-after-a-credential-leak-124/)
- [Byttet ut 963 anonyme blokker med strukturerte data, som gjentok selskapet 1 671 ganger, mot én lenket graf av 16 typer utledet fra stabile opprinnelsesidentifikatorer.](https://data.engineer.company/nb/portfolio/replaced-963-structured-data-blocks-with-one-graph-138/)
- [Bygde en databasedrevet generator for CV, referanser, portefølje og søknadsbrev i Python — 41 moduler, 10 580 linjer — som gjengir seks utdataformater fra én SQLite‑kilde med 23 tabeller, satt sammen av en idempotent pipeline i 19 trinn.](https://data.engineer.company/nb/portfolio/built-a-database-driven-cv-and-portfolio-generator-144/)
- [Skrev tester for selve kontrollene etter å ha slått fast at en kontroll som bare får ren inndata, en dag vil melde rent fordi den ikke leste noe — plantet en stavefeil for å bekrefte at stavekontrollen finner den, og hentet et id‑område fra databasen i stedet for fra et tall i testen.](https://data.engineer.company/nb/portfolio/wrote-tests-for-the-checkers-themselves-149/)
- [Bygde en innholdskontroll på tvers av språk som feiler når en oversettelse mister et tall den engelske teksten oppgir, og når et språk bruker en notasjon som ikke hører hjemme i det — og fant to danske beskrivelser som manglet en måleverdi, og seksten ukrainske tekstbiter med engelske anførselstegn.](https://data.engineer.company/nb/portfolio/built-a-cross-language-figure-and-notation-check-153/)
- [Reviderte 644 Rust‑crates for lisenskompatibilitet ved hvert bygg, og beviste at kontrollen slår ut ved å skrive om lisensen til én crate og ved å flytte den låste kjernerevisjonen uten å regenerere.](https://data.engineer.company/nb/portfolio/audited-644-rust-crates-for-licence-compatibility-163/)
- [Målte tretten adresser ut fra webserverens egen tilgangslogg alene — ingen informasjonskapsel, ingen sporingsverktøy og ingen tredjepartstjeneste — maskerte klientnettverket idet hver linje skrives, og samlet resultatet i et permanent arkiv med 21 daglige tellinger og 20 månedlige fasetter.](https://data.engineer.company/nb/portfolio/measured-thirteen-addresses-from-the-access-log-alone-166/)

<https://data.engineer.company/nb/categories/automation/>
