4 Cara Pemantauan ETL Berbasis AI Dapat Membantu Menghindari Gangguan

Pengarang: Laura McKinney
Tanggal Pembuatan: 4 April 2021
Tanggal Pembaruan: 16 Boleh 2024
Anonim
SpaceX Rises to the Challenge,  Transporter 3, Virgin Orbit Above the Clouds, JWST Update
Video: SpaceX Rises to the Challenge, Transporter 3, Virgin Orbit Above the Clouds, JWST Update

Isi


Sumber: Pop Nukoonrat / Dreamstime.com

Bawa pulang:

Data sangat penting untuk bisnis, tetapi agar bermanfaat, tidak boleh ada kesalahan dalam mengumpulkan, memproses, dan menyajikan data itu. Kecerdasan buatan dapat memantau proses ETL untuk memastikan mereka tidak ada kesalahan.

ETL (ekstrak, transformasi, dan muat) adalah salah satu proses terpenting dalam analitik data besar - dan secara bersamaan, ini dapat menjadi salah satu hambatan terbesarnya. (Untuk informasi lebih lanjut tentang big data, lihat 5 Kursus Big Data Bermanfaat yang Dapat Anda Ikuti Online.)

Alasan ETL sangat penting adalah karena sebagian besar data yang dikumpulkan bisnis tidak siap, dalam bentuk mentahnya, untuk dicerna oleh solusi analitik. Agar solusi analitik untuk menciptakan wawasan, data mentah perlu diekstraksi dari aplikasi tempat ia berada, diubah menjadi format yang dapat dibaca oleh program analitik, dan kemudian dimuat ke dalam program analitik itu sendiri.


Proses ini analog dengan memasak. Bahan baku Anda adalah data mentah Anda. Mereka perlu diekstraksi (dibeli dari toko), diubah (dimasak), dan kemudian dimuat (berlapis), sebelum dapat dianalisis (dicicipi). Kesulitan dan biaya dapat diukur secara tak terduga - mudah untuk membuat keju mac n 'untuk diri sendiri, tetapi jauh lebih sulit untuk membuat menu gourmet untuk 40 orang di pesta makan malam. Tak perlu dikatakan, kesalahan pada titik mana pun dapat membuat makanan Anda tidak bisa dicerna.

ETL Membuat Kemacetan untuk Analytics

ETL dalam beberapa hal merupakan landasan proses analitik, tetapi juga memiliki beberapa kelemahan. Pertama-tama, ini lambat dan mahal secara komputasi. Ini berarti bahwa bisnis sering hanya memprioritaskan data mereka yang paling penting untuk analisis, dan hanya menyimpan sisanya. Ini berkontribusi pada fakta bahwa hingga 99% dari semua data bisnis tidak digunakan untuk keperluan analitik.

Selain itu, proses ETL tidak pernah pasti. Kesalahan dalam proses ETL dapat merusak data Anda. Misalnya, kesalahan jaringan singkat dapat mencegah data diekstraksi. Jika data sumber Anda berisi beberapa jenis file, maka mereka mungkin berubah secara tidak benar. Sampah masuk, buang keluar, seperti yang mereka katakan - kesalahan selama proses ETL hampir pasti akan mengekspresikan diri dalam hal analitik yang tidak akurat.


Proses ETL yang rusak dapat memiliki konsekuensi buruk. Bahkan dalam skenario terbaik, Anda mungkin harus menjalankan kembali ETL, yang berarti penundaan jam - dan sementara itu, pembuat keputusan Anda tidak sabar. Dalam skenario terburuk, Anda tidak akan melihat analitik yang tidak akurat hingga Anda mulai kehilangan uang dan pelanggan.

Perampingan ETL dengan Machine Learning dan AI

Anda dapat - dan mungkin memang - menugaskan seseorang untuk memantau ETL, tetapi sejujurnya tidak sesederhana itu. Data buruk dapat dihasilkan dari kesalahan proses yang terjadi begitu cepat sehingga tidak dapat dilihat secara real time. Hasil dari proses ETL yang rusak seringkali tidak terlihat berbeda dari data yang dimuat dengan benar. Bahkan ketika kesalahan sudah jelas, masalah yang menciptakan kesalahan mungkin tidak mudah dilacak. (Untuk mempelajari lebih lanjut tentang menganalisis data, lihat Peran Pekerjaan: Analis Data.)

Berita baiknya adalah mesin dapat menangkap apa yang tidak bisa dilakukan manusia. Ini hanya beberapa cara AI dan pembelajaran mesin dapat menangkap kesalahan ETL sebelum berubah menjadi analitik yang tidak akurat.

Tanpa Bug, Tanpa Stres - Panduan Langkah Demi Langkah Anda untuk Membuat Perangkat Lunak yang Mengubah Hidup Tanpa Menghancurkan Kehidupan Anda

Anda tidak dapat meningkatkan keterampilan pemrograman Anda ketika tidak ada yang peduli dengan kualitas perangkat lunak.

1. Deteksi dan Peringatan Metrik ETL
Meskipun data Anda adalah gambar yang terus bergerak, proses ETL tetap harus menghasilkan nilai yang konsisten pada kecepatan yang konsisten. Ketika hal-hal ini berubah, itu menyebabkan alarm. Manusia dapat melihat perubahan besar dalam data dan mengenali kesalahan, tetapi pembelajaran mesin dapat mengenali kesalahan yang lebih halus, lebih cepat. Mungkin bagi sistem pembelajaran mesin untuk menawarkan deteksi anomali real-time dan memperingatkan departemen TI secara langsung, memungkinkan mereka untuk menghentikan proses dan memperbaiki masalah tanpa harus membuang waktu upaya komputasi.

2. Kemacetan Khusus Pinpoint
Bahkan jika hasil Anda akurat, mereka mungkin masih terlalu lambat untuk digunakan. Gartner mengatakan itu 80% wawasan berasal dari analitik tidak akan pernah dimanfaatkan untuk menciptakan nilai moneter, dan itu mungkin karena seorang pemimpin bisnis tidak dapat melihat wawasan tepat waktu untuk memanfaatkannya. Pembelajaran mesin dapat memberi tahu Anda di mana sistem Anda melambat dan memberi Anda jawaban - memberi Anda data yang lebih baik, lebih cepat.

3. Hitung Dampak Manajemen Perubahan
Sistem yang menghasilkan data dan analitik Anda tidak statis - mereka selalu menerima tambalan dan peningkatan. Terkadang, ini memengaruhi cara mereka menghasilkan atau menginterpretasikan data - yang mengarah ke hasil yang tidak akurat. Pembelajaran mesin dapat menandai hasil yang telah berubah dan melacaknya ke mesin atau aplikasi tertentu yang ditambal.

4. Mengurangi Biaya Operasi
Operasi analisis macet sama dengan kehilangan uang. Waktu yang Anda habiskan mencari tahu tidak hanya bagaimana menyelesaikan masalah tetapi juga siapa yang bertanggung jawab untuk menyelesaikan masalah adalah waktu Anda bisa menghabiskan nilai bangunan. Pembelajaran mesin membantu mencapai inti permasalahan dengan hanya memberi tahu tim yang mungkin bertanggung jawab untuk menanggapi jenis insiden tertentu, membiarkan departemen IT lainnya bebas untuk terus melakukan fungsi pekerjaan inti. Selain itu, pembelajaran mesin akan membantu menghilangkan positif palsu, mengurangi jumlah peringatan secara keseluruhan sambil meningkatkan rincian informasi yang dapat mereka berikan. Peringatan kelelahan sangat nyata, sehingga perubahan ini akan memiliki dampak yang terukur pada kualitas hidup.

Ketika sampai pada kemenangan dalam bisnis, analitik sangat penting. Sebuah studi penting dari Bain Capital menunjukkan bahwa perusahaan yang menggunakan analitik memiliki kemungkinan dua kali lipat untuk mengalami kinerja finansial yang lebih buruk. ETL memberikan landasan untuk sukses di arena ini, tetapi penundaan dan kesalahan juga dapat mencegah keberhasilan program analitik. Pembelajaran mesin, oleh karena itu, menjadi alat yang sangat berharga untuk keberhasilan setiap program analitik, membantu menjamin data yang bersih dan hasil yang akurat.