lakeFS ನಿಜವಾಗಿಯೂ ಡೇಟಾ ಆವೃತ್ತಿಯನ್ನು ಕಡಿಮೆ ನೋವುಂಟುಮಾಡುವಂತೆ ಮಾಡುತ್ತದೆಯೇ?
ಡೇಟಾ ಆವೃತ್ತಿಯ ಬಗ್ಗೆ ಒಂದು ವಿಷಯವೇನೆಂದರೆ, ಪ್ರತಿಯೊಬ್ಬರೂ ಅದು ಸ್ಪಷ್ಟವಾಗಿದೆ ಎಂದು ತಲೆ ಅಲ್ಲಾಡಿಸುತ್ತಾರೆ - "ಖಂಡಿತವಾಗಿ ನಾವು ಡೇಟಾವನ್ನು ಆವೃತ್ತಿ ಮಾಡುತ್ತೇವೆ" - ಆದರೆ ನಂತರ ನೀವು ಒಳಗೆ ನೋಡಿದಾಗ ಅದು ಟಾರ್ಪ್ಗಳು ಮತ್ತು ಡಕ್ಟ್ ಟೇಪ್ ಆಗಿದೆ. ಪೆಟಾಬೈಟ್-ಪ್ರಮಾಣದ ಆಬ್ಜೆಕ್ಟ್ ಸ್ಟೋರ್ಗಳ ಮೇಲೆ Git ರೂಪಕಗಳು. ಶಾಖೆಗಳಲ್ಲದ ಶಾಖೆಗಳು, ಕೇವಲ ಅರ್ಥವಿವರಣೆಯಾಗಿ ನಟಿಸುವ ನಕಲುಗಳು. "ಉತ್ಪಾದನೆ" ಡೇಟಾಸೆಟ್ಗಳು ಅಂಬರ್ನಲ್ಲಿ ಹೆಪ್ಪುಗಟ್ಟಿವೆ ಏಕೆಂದರೆ ಅವುಗಳನ್ನು ಮುಟ್ಟಲು ಹೆದರುತ್ತೇವೆ ಎಂದು ಯಾರೂ ಒಪ್ಪಿಕೊಳ್ಳಲು ಬಯಸುವುದಿಲ್ಲ.
ಇದು ನನ್ನನ್ನು lakeFS ಗೆ ಕರೆದೊಯ್ಯುತ್ತದೆ. ಇದರ ಉದ್ದೇಶ ಸ್ಪಷ್ಟವಾಗಿದೆ: ನಿಮ್ಮ ಡೇಟಾ ಲೇಕ್ಗಾಗಿ Git ತರಹದ ಲೇಯರ್, S3/GCS/Azure Blob ನಲ್ಲಿ ನಿರ್ಮಿಸಲಾಗಿದೆ. ನಿಮ್ಮ ಟೇಬಲ್ಗಳು ಮತ್ತು ಫೈಲ್ಗಳಿಗಾಗಿ ನಿಮಗೆ ಶಾಖೆಗಳು, ಕಮಿಟ್ಗಳು, ಟ್ಯಾಗ್ಗಳು, ಡಿಫ್ಗಳು ಮತ್ತು ವಿಲೀನಗಳು ಸಿಗುತ್ತವೆ - ಟೆರಾಬೈಟ್ಗಳನ್ನು ದೈಹಿಕವಾಗಿ ನಕಲಿಸದೆ. ನಿನ್ನೆ ಸತ್ಯವನ್ನು ಕೆಡಿಸುವ ಕೆಟ್ಟ ETL ರನ್ನಿಂದ ನೀವು ಎಂದಾದರೂ ಸುಟ್ಟುಹೋದರೆ, ಇದು ಏಕೆ ಅಸ್ತಿತ್ವದಲ್ಲಿದೆ ಎಂದು ನಿಮಗೆ ತಿಳಿಯುತ್ತದೆ.
ಆದರೆ lakeFS ತನ್ನ ಸರಳ ಭರವಸೆಯನ್ನು ನೀಡುತ್ತದೆಯೇ - ಡೇಟಾ ಆವೃತ್ತಿಯು ನಿಜವಾಗಿಯೂ ಕಡಿಮೆ ನೋವುಂಟುಮಾಡುತ್ತದೆಯೇ? ಅಥವಾ ಇದು ನೋವನ್ನು ಬೇರೆ ಸ್ಥಳಕ್ಕೆ ವರ್ಗಾಯಿಸುವ ಮತ್ತು ಅದನ್ನು ಪ್ರಗತಿ ಎಂದು ಕರೆಯುವ ಮತ್ತೊಂದು ಲೇಯರ್ ಆಗಿದೆಯೇ?
ಇದನ್ನು ಪರೀಕ್ಷಿಸೋಣ. ಮತ್ತು, ಹೌದು, ಟೈರ್ಗಳು Parquet ಅನ್ನು ಸಾಗಿಸುವ ಸೆಮಿ ಟ್ರೈಲರ್ನಲ್ಲಿವೆ.
lakeFS ವಿಮರ್ಶೆ: ಅದು ಏನು, ಅದು ಏನು ಅಲ್ಲ
ಸರಳ ಭಾಷೆಯಲ್ಲಿ ತ್ವರಿತ ವಿಮರ್ಶೆ:
- lakeFS ಎಂದರೇನು: ಆಬ್ಜೆಕ್ಟ್ ಸ್ಟೋರ್ಗಳಿಗಾಗಿ ಆವೃತ್ತಿ ನಿಯಂತ್ರಣ ಲೇಯರ್ Git (ಶಾಖೆಗಳು/ಕಮಿಟ್ಗಳು/ವಿಲೀನ) ನಂತೆ ಭಾಸವಾಗುತ್ತದೆ, ಇದನ್ನು ವಿಶ್ಲೇಷಣೆ ಡೇಟಾಸೆಟ್ಗಳಿಗಾಗಿ ವಿನ್ಯಾಸಗೊಳಿಸಲಾಗಿದೆ. ಡೇಟಾವನ್ನು ನಕಲಿಸದೆ ನಿಮಗೆ ಪರಮಾಣು ಕಾರ್ಯಾಚರಣೆಗಳು ಮತ್ತು ಪುನರುತ್ಪಾದನೆಯನ್ನು ನೀಡಲು ಇದು ಪ್ರಯತ್ನಿಸುತ್ತದೆ. ನೀವು ಸ್ಪಾರ್ಕ್, ಟ್ರಿನೊ, ಹೈವ್, ಪ್ರೆಸ್ಟೊ ಅಥವಾ ಪೈಥಾನ್ ಸ್ಕ್ರಿಪ್ಟ್ಗಳನ್ನು ಒಂದು ಶಾಖೆಗೆ ಸೂಚಿಸಬಹುದು ಮತ್ತು ಪ್ರತ್ಯೇಕ ಪರಿಸರದಂತೆ ಕೆಲಸಗಳನ್ನು ಚಲಾಯಿಸಬಹುದು.
- lakeFS ಏನು ಅಲ್ಲ: ಇದು SQL ವೇರ್ಹೌಸ್, ಕ್ಯಾಟಲಾಗ್ ಅಥವಾ ಆಡಳಿತಕ್ಕಾಗಿ ಬೆಳ್ಳಿ ಗುಂಡು ಅಲ್ಲ. ಇದು ನಿಮ್ಮ ಸ್ಕೀಮಾ ಡ್ರಿಫ್ಟ್ ಅನ್ನು ಸರಿಪಡಿಸುವುದಿಲ್ಲ ಅಥವಾ ದುರ್ಬಲವಾದ ಅಪ್ಸ್ಟ್ರೀಮ್ ಡೇಟಾವನ್ನು ನಂಬಲರ್ಹವಾಗಿಸುವುದಿಲ್ಲ. ವಿಭಿನ್ನ ರೀತಿಯಲ್ಲಿ ಒಂದೇ ಡೇಟಾಸೆಟ್ ಅನ್ನು "ಸರಿಪಡಿಸಿದ" ಇಬ್ಬರು ತಂಡಗಳ ನಡುವಿನ ಪ್ರತಿಯೊಂದು ವಿಲೀನ ಸಂಘರ್ಷವನ್ನು ಇದು ಸ್ವಯಂ-ಮ್ಯಾಜಿಕ್ ಆಗಿ ಪರಿಹರಿಸುವುದಿಲ್ಲ.
ಇಲ್ಲಿಯವರೆಗೆ, ತುಂಬಾ ಸೂಕ್ಷ್ಮವಾಗಿದೆ. ಆವೃತ್ತಿಯ ಡೇಟಾ, Git-ಶೈಲಿಯ ಕಾರ್ಯವಿಧಾನಗಳು, ಶೂನ್ಯ-ನಕಲು ಶಾಖೆಗಳು ಮತ್ತು ರೋಲ್ಬ್ಯಾಕ್ಗಳಿಗಾಗಿ ಸ್ಪಷ್ಟವಾದ ಕಥೆ ಇದರ ಉದ್ದೇಶವಾಗಿದೆ. ಸ್ಪಷ್ಟವಾದ ಪ್ರಶ್ನೆ: ಸಂತೋಷದ ಬಾಣಗಳನ್ನು ಹೊಂದಿರುವ ರೇಖಾಚಿತ್ರದಲ್ಲಿ ಅಲ್ಲ, ನಿಜವಾದ ಬಳಕೆಯಲ್ಲಿ ಇದು ಹೇಗೆ ಭಾಸವಾಗುತ್ತದೆ?
Git ಸಾದೃಶ್ಯ: ಸಹಾಯಕ, ಅದು ಅಲ್ಲದವರೆಗೆ
ಡೇಟಾಕ್ಕಾಗಿ Git ರೂಪಕವು ಪ್ರತಿಭೆ ಮತ್ತು ಭೂಕುಸಿತ ಎರಡೂ ಆಗಿದೆ. ಏಕೆಂದರೆ ಎಲ್ಲರಿಗೂ ಈಗಾಗಲೇ ಹರಿವು ತಿಳಿದಿದೆ. ಭೂಕುಸಿತ ಏಕೆಂದರೆ ಕೋಡ್ ರೆಪೊದಲ್ಲಿರುವ ಫೈಲ್ಗಳು 2 TB ಕಾಲಮ್ ಟೇಬಲ್ಗಳಲ್ಲ, ಅವುಗಳು ತಡವಾಗಿ ಬರುವ ವಿಭಾಗಗಳು, ಸ್ಕೀಮಾ ವಿಕಸನ ಮತ್ತು ಬೆಳಿಗ್ಗೆ 2 ಗಂಟೆಗೆ ಚಲಿಸುವ ಮತ್ತು ತಮ್ಮ ತಾಯಿಗೆ ಕರೆ ಮಾಡಲು ಮರೆತುಬಿಡುವ ಉದ್ಯೋಗಗಳಾಗಿವೆ.
- ಇದು ಎಲ್ಲಿ ಕೆಲಸ ಮಾಡುತ್ತದೆ: ಪ್ರತ್ಯೇಕತೆ. lakeFS ನೊಂದಿಗೆ ನೀವು
feature/experiment ಶಾಖೆಯನ್ನು ರಚಿಸಬಹುದು, ಅಲ್ಲಿ ರೂಪಾಂತರಗಳನ್ನು ಚಲಾಯಿಸಬಹುದು, ಫಲಿತಾಂಶಗಳನ್ನು ಮೌಲ್ಯೀಕರಿಸಬಹುದು ಮತ್ತು ನಂತರ ಒಂದು ನಿರ್ದಿಷ್ಟ ಸಮಯದಲ್ಲಿ ಸ್ನ್ಯಾಪ್ಶಾಟ್ ಅನ್ನು ಪ್ರತಿನಿಧಿಸುವ ಕಮಿಟ್ನೊಂದಿಗೆ main ಗೆ ವಿಲೀನಗೊಳಿಸಬಹುದು. ಏನಾದರೂ ತಪ್ಪಾದಲ್ಲಿ, ಹಿಂದಿನ ಕಮಿಟ್ಗೆ ಹಿಂತಿರುಗಿ ಮತ್ತು ನೀವು ನಿನ್ನೆಯ ನೆಲದ ಸತ್ಯಕ್ಕೆ ಹಿಂತಿರುಗುತ್ತೀರಿ - ಮರುಸ್ಥಾಪನೆಗಾಗಿ ಸಂಗ್ರಹಣೆ ತಂಡವನ್ನು ಬೇಡಿಕೊಳ್ಳುವ ಅಗತ್ಯವಿಲ್ಲ.
- ಇದು ಎಲ್ಲಿ ಹರಿಯುತ್ತದೆ: ವಿಲೀನಗಳು ಸಾಲಿನ ಆಧಾರಿತ ಡಿಫ್ಗಳಲ್ಲ; ಅವು ಆಬ್ಜೆಕ್ಟ್-ಮಟ್ಟದ ಕಾರ್ಯಾಚರಣೆಗಳು. ಒಂದೇ ವಿಭಾಗವನ್ನು ಪುನಃ ಬರೆಯುವ ಇಬ್ಬರು ತಂಡಗಳು ಚತುರ ಮೂರು-ದಾರಿ ವಿಲೀನವನ್ನು ಪಡೆಯುವುದಿಲ್ಲ; ಅವರಲ್ಲಿ ಒಬ್ಬರು ಗೆಲ್ಲುತ್ತಾರೆ, ಅಥವಾ ನೀವು ಹಸ್ತಚಾಲಿತ ಸಮನ್ವಯವನ್ನು ಮಾಡುತ್ತೀರಿ. ರೂಪಕವು ಹಿಡಿದಿಟ್ಟುಕೊಳ್ಳುತ್ತದೆ, ಆದರೆ ನೀವು ಕಣ್ಣುಮುಚ್ಚಿ ನೋಡಿದರೆ ಮಾತ್ರ.
ಒಳ್ಳೆಯ ಉಪಕರಣದ ಪರೀಕ್ಷೆಯೆಂದರೆ ಅದು ಅರ್ಥವಾಗುವ ರೀತಿಯಲ್ಲಿ ವಿಫಲವಾಗುತ್ತದೆಯೇ. lakeFS ಸಾಮಾನ್ಯವಾಗಿ ಮಾಡುತ್ತದೆ. ಹೆಚ್ಚಿನ ಸಮಯ, ಅರ್ಥವಿವರಣೆಗಳು ಸರಳವಾಗಿವೆ: ಶಾಖೆಗಳು ಸ್ನ್ಯಾಪ್ಶಾಟ್ಗಳು, ಕಮಿಟ್ಗಳು ಪಾಯಿಂಟರ್ಗಳು, ವಿಲೀನಗಳು ಕಾಪಿ-ಆನ್-ರೈಟ್ ಮೆಟಾಡೇಟಾ - ನೀವು ನಿಜವಾಗಿ ಕಾರ್ಯಗತಗೊಳಿಸುವವರೆಗೆ ವೇಗವಾಗಿ ಮತ್ತು ಅಗ್ಗವಾಗಿದೆ. ಇದು ಮ್ಯಾಜಿಕ್ ಅಲ್ಲ, ಮತ್ತು ಅದು ಒಳ್ಳೆಯದು.
ಸೆಟಪ್ ಮತ್ತು ಆರ್ಕಿಟೆಕ್ಚರ್: ನೀವು ನಿಜವಾಗಿ ಕಾಳಜಿವಹಿಸುವ ಬೇಸರದ ಸಂಗತಿ
ನೀವು lakeFS ಅನ್ನು ನಿಮ್ಮ ಬಕೆಟ್ನ ಮುಂದೆ ಇಡುತ್ತೀರಿ. ಓದುವಿಕೆ/ಬರೆಯುವಿಕೆ lakeFS ಎಂಡ್ಪಾಯಿಂಟ್ಗಳ ಮೂಲಕ ಹೋಗುತ್ತದೆ; ಒಳಗೆ, ಇದು ನಿಮ್ಮ ಆಬ್ಜೆಕ್ಟ್ ಸ್ಟೋರ್ನಲ್ಲಿನ ಭೌತಿಕ ಸ್ಥಳಗಳಿಗೆ ತಾರ್ಕಿಕ ಮಾರ್ಗಗಳನ್ನು ಮ್ಯಾಪ್ ಮಾಡುತ್ತದೆ. ಮೆಟಾಡೇಟಾ ಡೇಟಾಬೇಸ್ನಲ್ಲಿ ವಾಸಿಸುತ್ತದೆ (ನೀವು ಸೂಕ್ಷ್ಮವಾಗಿದ್ದರೆ ಪೋಸ್ಟ್ಗ್ರೆಸ್). ಅಳವಡಿಕೆಯ ಸ್ಫೋಟದ ತ್ರಿಜ್ಯವು ನೀವು ಭಯಪಡುವುದಕ್ಕಿಂತ ಚಿಕ್ಕದಾಗಿದೆ: ನೀವು ನಿಮ್ಮ ಲೇಕ್ ಅನ್ನು ಮರುರೂಪಿಸುವುದಿಲ್ಲ; ನೀವು ಅದಕ್ಕೆ ನಿಯಂತ್ರಣ ಪ್ಲೇನ್ ಅನ್ನು ಸೇರಿಸುತ್ತೀರಿ.
- ಕಾರ್ಯಕ್ಷಮತೆ: ಆಚರಣೆಯಲ್ಲಿ, ಓವರ್ಹೆಡ್ ಹೆಚ್ಚಾಗಿ ಮೆಟಾಡೇಟಾ ಲುಕಪ್ಗಳು ಮತ್ತು ಇಂಡೈರೆಕ್ಷನ್ನಲ್ಲಿರುತ್ತದೆ. ದೀರ್ಘಕಾಲೀನ ಸ್ಪಾರ್ಕ್ ಉದ್ಯೋಗಗಳಿಗೆ, ಹೆಚ್ಚುವರಿ ಹಾಪ್ ಸಾಮಾನ್ಯವಾಗಿ ಷಫಲ್ಗೆ ಹೋಲಿಸಿದರೆ ಶಬ್ದವಾಗಿರುತ್ತದೆ. ಸಣ್ಣ-ಫೈಲ್ ಹೆವಿ ವರ್ಕ್ಲೋಡ್ಗಳಿಗೆ - ಸರಿ, ಸಮಸ್ಯೆ ಸಣ್ಣ ಫೈಲ್ಗಳು, lakeFS ಅಲ್ಲ.
- ವೆಚ್ಚ: ಶೂನ್ಯ-ನಕಲು ಬ್ರಾಂಚಿಂಗ್ ಮಾದರಿಯು ಸಂಗ್ರಹಣೆಯನ್ನು ಆಶ್ಚರ್ಯಕರವಾಗಿ ಸಾಮಾನ್ಯ ಸ್ಥಿತಿಯಲ್ಲಿರಿಸುತ್ತದೆ. ನೀವು ಮೆಟಾಡೇಟಾ ಮತ್ತು ಸಾಂದರ್ಭಿಕ ಕಾಂಪ್ಯಾಕ್ಷನ್ ಅಥವಾ GC ಗೆ ಪಾವತಿಸುತ್ತೀರಿ. ನೀವು ಹಿಂದೆ ಬಕೆಟ್ಗಳನ್ನು ನಕಲಿಸುವ ಮೂಲಕ ಸ್ನ್ಯಾಪ್ಶಾಟ್ ಮಾಡುತ್ತಿದ್ದರೆ, ಇದು ವಸ್ತುನಿಷ್ಠವಾಗಿ ಅಗ್ಗವಾಗಿದೆ.
- ವೆಂಡರ್ ಲಾಕ್-ಇನ್: ನೀವು API ಮೇಲ್ಮೈ ಮತ್ತು ಕಾರ್ಯಾಚರಣೆಯ ಹೆಜ್ಜೆಗುರುತಿನೊಂದಿಗೆ ಸರಿಹೊಂದಿದರೆ ಕನಿಷ್ಠ. ನಿಮ್ಮ ಡೇಟಾ S3/GCS/Blob ನಲ್ಲಿ ಉಳಿಯುತ್ತದೆ; lakeFS ನಕ್ಷೆಯನ್ನು ಹಿಡಿದಿಟ್ಟುಕೊಳ್ಳುತ್ತದೆ.
ಇದು ವಿಮರ್ಶೆಯ ಭಾಗವಾಗಿದ್ದು, ಅಲ್ಲಿ ನಾನು ಸಾಮಾನ್ಯವಾಗಿ ಗುಪ್ತವಾದ ವಿಷಯವನ್ನು ಕಂಡುಕೊಳ್ಳುತ್ತೇನೆ. ಇಲ್ಲಿ ಯಾವುದೇ ಕುತಂತ್ರವಿಲ್ಲ. ಗುಪ್ತವಾದ ವಿಷಯವೆಂದರೆ ಸ್ಪಷ್ಟವಾದದ್ದು: ನಿಮ್ಮ ಎಲ್ಲಾ ಲೇಕ್ I/O ಅನ್ನು ನೀವು ನಿಯಂತ್ರಣ ಪ್ಲೇನ್ ಮೂಲಕ ಕೇಂದ್ರೀಕರಿಸುತ್ತಿದ್ದೀರಿ. ಆ ನಿಯಂತ್ರಣ ಪ್ಲೇನ್ ಬಿದ್ದರೆ, ನೀವು ಓದುವುದಿಲ್ಲ ಅಥವಾ ಬರೆಯುವುದಿಲ್ಲ. ಒಂದು ಹೊಸ ಏಕ ಬಿಂದುವಿಗೆ (ನಿರ್ವಹಿಸಿದ) ವಿನಿಮಯವಾಗಿ ಗೋಚರತೆ ಮತ್ತು ನಿಯಂತ್ರಣವು ವಹಿವಾಟು ಆಗಿದೆ.
ಡೇಟಾ ಲೇಕ್ಗಳನ್ನು ಬ್ರಾಂಚ್ ಮಾಡುವುದು: ಏಕೆ ತಲೆಕೆಡಿಸಿಕೊಳ್ಳಬೇಕು?
ಏಕೆಂದರೆ ಪ್ರತಿಯೊಬ್ಬರೂ ಈಗಾಗಲೇ ಇದನ್ನು ಫೋಲ್ಡರ್ಗಳೊಂದಿಗೆ ಅನೌಪಚಾರಿಕವಾಗಿ ಮಾಡುತ್ತಾರೆ: raw/, staging/, curated/, dont_touch/, ಮತ್ತು ಸಾರ್ವಕಾಲಿಕ ಜನಪ್ರಿಯ final_final_v7/. ನೀವು ಮಾಡುತ್ತಿದ್ದೀರಿ ಎಂದು ನೀವು ನಟಿಸುವ ವಿಷಯವನ್ನು lakeFS ನಿಜವಾಗಿಯೂ ನಿಜವಾಗಿಸುತ್ತದೆ.
- ಪುನರುತ್ಪಾದನೆ: ಕಮಿಟ್ ಹ್ಯಾಶ್ನಲ್ಲಿ ಕಂಪ್ಯೂಟ್ ಉದ್ಯೋಗವನ್ನು ಸೂಚಿಸಿ. ಆರು ತಿಂಗಳ ನಂತರ, ನೀವು ನಿಖರವಾಗಿ ಅದೇ ಡೇಟಾದ ವಿರುದ್ಧ ನಿಖರವಾಗಿ ಅದೇ ಉದ್ಯೋಗವನ್ನು ಮರು ಚಲಾಯಿಸಬಹುದು. ಅದು ಐಷಾರಾಮಿ ಅಲ್ಲ; ಇದು ಲೆಕ್ಕಪರಿಶೋಧನೆಗಳು ಮತ್ತು ಕ್ಯಾಪಿಟಲ್-ಎಸ್ ವಿಜ್ಞಾನವಾಗಲು ಬಯಸುವ ವಿಜ್ಞಾನಕ್ಕೆ ಟೇಬಲ್ ಪಣವಾಗಿದೆ.
- ಸುರಕ್ಷತೆ: ETL ಉದ್ಯೋಗಗಳು ಪ್ರತ್ಯೇಕವಾದ ಶಾಖೆಗಳಿಗೆ ಬರೆಯಬಹುದು. ಮೌಲ್ಯೀಕರಿಸಿ, ಪ್ರೊಫೈಲ್ ಮಾಡಿ, ಡೌನ್ಸ್ಟ್ರೀಮ್ ಪ್ರಶ್ನೆಗಳ ಉಪವಿಭಾಗವನ್ನು ಸಹ ಚಲಾಯಿಸಿ. ವಿಶ್ವಾಸ ಹೆಚ್ಚಾದಾಗ, ವಿಲೀನಗೊಳಿಸಿ. ಇಲ್ಲದಿದ್ದರೆ, ತಿರಸ್ಕರಿಸಿ. ಇದು ಪೈಪ್ಲೈನ್ಗಳಿಗೆ ವಯಸ್ಕರ ಮೇಲ್ವಿಚಾರಣೆ.
- ಪ್ರಯೋಗ: ಡೇಟಾ ವಿಜ್ಞಾನಿಗಳು ಉತ್ಪಾದನೆಯನ್ನು ತುಳಿಯದೆ ಪುನರಾವರ್ತಿಸುತ್ತಾರೆ. ತಪ್ಪಾದ ತಿಂಗಳನ್ನು ಆಕಸ್ಮಿಕವಾಗಿ ಮರು ತುಂಬಿಸುವ ಯಾವುದೇ "ಕ್ಷಿಪ್ರ" ಮರುರೂಪಿಸುವಿಕೆಗಳಿಲ್ಲ.
ಇದು ಹೊಸದಾಗಿರಬಾರದು, ಆದರೆ ಅದು ಹಾಗೆ ಭಾಸವಾಗುತ್ತದೆ, ಏಕೆಂದರೆ ಹೆಚ್ಚಿನ ಡೇಟಾ ಪ್ಲಾಟ್ಫಾರ್ಮ್ಗಳು ಡೇಟಾವನ್ನು ನೀವು ಕೋಲುಗಳಿಂದ ಚುಚ್ಚುವ ಅಸ್ಪಷ್ಟವಾದ ಬ್ಲಾಬ್ನಂತೆ ಪರಿಗಣಿಸುತ್ತವೆ.
lakeFS ವಿಮರ್ಶೆಯ ತಿರುಳು: ದಿನ-2 ವಾಸ್ತವತೆಗಳು
ಇಲ್ಲಿ ಉಪಕರಣಗಳು ತಮ್ಮನ್ನು ತಾವು ಸಾಬೀತುಪಡಿಸುತ್ತವೆ: ದಿನ ಎರಡು, ವಾರ ಮೂರು, ತ್ರೈಮಾಸಿಕ ನಾಲ್ಕು. ಮಧುಚಂದ್ರ ಮುಗಿದಿದೆ, ನೀವು ಡಜನ್ಗಟ್ಟಲೆ ರೆಪೊಸಿಟರಿಗಳನ್ನು ಹೊಂದಿದ್ದೀರಿ ಮತ್ತು ಯಾರೋ ನಾಯಿಯ ಹೆಸರಿನ ಶಾಖೆಯನ್ನು ವಿಲೀನಗೊಳಿಸಿದ್ದಾರೆ.
- ಸ್ಕೀಮಾ ವಿಕಸನ: ಬ್ರೇಕಿಂಗ್ ಸ್ಕೀಮಾವನ್ನು ತಳ್ಳುವುದನ್ನು lakeFS ತಡೆಯುವುದಿಲ್ಲ. ಮೌಲ್ಯೀಕರಣವು ಹಾದುಹೋಗುವವರೆಗೆ ಅದನ್ನು ಶಾಖೆಯಲ್ಲಿ ಇರಿಸುವ ಮೂಲಕ ಸ್ಫೋಟವನ್ನು ತಡೆಯಲು ಇದು ನಿಮಗೆ ಸಹಾಯ ಮಾಡುತ್ತದೆ - ಆದರೆ ವಯಸ್ಕರ ಕೆಲಸವೆಂದರೆ ತಪಾಸಣೆಗಳನ್ನು ವ್ಯಾಖ್ಯಾನಿಸುವುದು. ನಿಮ್ಮ ಕ್ಯಾಟಲಾಗ್ನೊಂದಿಗೆ ಜೋಡಿಸಿ ಮತ್ತು ಪೂರ್ವ-ವಿಲೀನ ಕೊಕ್ಕೆಗಳನ್ನು ಬಳಸಿ. ನೀವು ಒಪ್ಪಂದಗಳನ್ನು ಜಾರಿಗೊಳಿಸದಿದ್ದರೆ, ನೀವು ಹೆಚ್ಚು ನಿಖರವಾಗಿ ಗೊಂದಲವನ್ನು ಆವೃತ್ತಿ ಮಾಡುತ್ತೀರಿ.
- ವಿಲೀನ ಸಂಘರ್ಷಗಳು: ಡೇಟಾ ಪ್ರಮಾಣದಲ್ಲಿ, ಸಂಘರ್ಷಗಳು ಸಂಪೂರ್ಣ-ವಸ್ತು ಘರ್ಷಣೆಗಳಾಗಿವೆ. ಎರಡು ಶಾಖೆಗಳು ಒಂದೇ ವಿಭಾಗ ಅಥವಾ ಫೈಲ್ ಅನ್ನು ಪುನಃ ಬರೆಯುತ್ತವೆಯೇ? ಯಾರಾದರೂ ಕಳೆದುಕೊಳ್ಳುತ್ತಾರೆ, ಅಥವಾ ನೀವು ಹಸ್ತಚಾಲಿತವಾಗಿ ಹೊಲಿಗೆ ಹಾಕುತ್ತೀರಿ. ಉಳಿಸುವ ಅನುಗ್ರಹವೆಂದರೆ lakeFS ಸಂಘರ್ಷವನ್ನು ಸ್ಪಷ್ಟ ಮತ್ತು ಪತ್ತೆಹಚ್ಚಲು ಸಾಧ್ಯವಾಗಿಸುತ್ತದೆ. ನೋವುಂಟುಮಾಡುವ, ಆದರೆ ಪ್ರಾಮಾಣಿಕ.
- ಆಡಳಿತ ಮತ್ತು ವಂಶಾವಳಿ: lakeFS ನಿಮಗೆ ಕಮಿಟ್ ಇತಿಹಾಸ ಮತ್ತು ಡಿಫ್ಗಳನ್ನು ನೀಡುತ್ತದೆ. ಕಾಲಮ್-ಮಟ್ಟದ ವಂಶಾವಳಿ ಅಥವಾ PII ಸ್ಕ್ಯಾನಿಂಗ್ಗಾಗಿ, ನಿಮಗೆ ಇನ್ನೂ ಪೂರಕ ಪರಿಕರಗಳು ಬೇಕಾಗುತ್ತವೆ. ಇದು ಆವೃತ್ತಿಯ ಬೆನ್ನೆಲುಬು, ಪೂರ್ಣ ಅನುಸರಣೆ ಅಸ್ಥಿಪಂಜರವಲ್ಲ.
- ಕಾರ್ಯಾಚರಣೆಗಳು: ಬ್ಯಾಕಪ್ಗಳು ಟೇಬಲ್ ಪಣವಾಗಿವೆ. ಮೆಟಾಡೇಟಾ ಸ್ಟೋರ್ ಅನ್ನು ಆಮ್ಲಜನಕದಂತೆ ಮೇಲ್ವಿಚಾರಣೆ ಮಾಡಿ. ಫೇಲೋವರ್ ಅನ್ನು ಪರೀಕ್ಷಿಸಿ. ನಿಮ್ಮ ತಂಡವು lakeFS ಅನ್ನು ಮ್ಯಾಜಿಕ್ ಕಪ್ಪು ಪೆಟ್ಟಿಗೆಯಾಗಿ ಪರಿಗಣಿಸಿದರೆ, ಅದು ಒಂದು ದಿನ ಉಪಕಾರವನ್ನು ಹಿಂತಿರುಗಿಸುತ್ತದೆ.
ಇಲ್ಲಿಯವರೆಗಿನ ತೀರ್ಪು: lakeFS ಅನೇಕ ತಂಡಗಳಿಗೆ ಸರಿಯಾದ ವಹಿವಾಟುಗಳನ್ನು ಮಾಡುತ್ತದೆ. ಇದು ಕ್ಯಾಂಡಿ ಅರ್ಥದಲ್ಲಿ "ಸುಲಭ" ಅಲ್ಲ; ಇದು ಸೀಟ್ಬೆಲ್ಟ್ ಅರ್ಥದಲ್ಲಿ "ಸುಲಭ" - ನಿಮಗೆ ಅಗತ್ಯವಿದ್ದಾಗ ನೀವು ಅದನ್ನು ಹೆಚ್ಚಾಗಿ ಗಮನಿಸುತ್ತೀರಿ.
ಕಾರ್ಯಕ್ಷಮತೆ, ಮಾನದಂಡಗಳು ಮತ್ತು ಬೇಸರದ ಸತ್ಯ
ಇಂಟರ್ನೆಟ್ ಬೆಕ್ಕು ಸೂರ್ಯನ ಕಿರಣಗಳನ್ನು ಪ್ರೀತಿಸುವ ರೀತಿಯಲ್ಲಿ ಮಾನದಂಡಗಳನ್ನು ಪ್ರೀತಿಸುತ್ತದೆ. ಅವು ಆರಾಮದಾಯಕ ಮತ್ತು ಹೆಚ್ಚಾಗಿ ಅಲಂಕಾರಿಕವಾಗಿವೆ. ಇಲ್ಲಿ ಬೇಸರದ ಸತ್ಯವಿದೆ: ಬ್ಯಾಚ್ ವಿಶ್ಲೇಷಣೆಗಾಗಿ, lakeFS ಓವರ್ಹೆಡ್ ಸಾಮಾನ್ಯವಾಗಿ ನೀವು ಈಗಾಗಲೇ ಹೊಂದಿರುವ ಕಂಪ್ಯೂಟ್ ಮತ್ತು I/O ಮಾದರಿಗಳಿಂದ ಕುಂಠಿತಗೊಳ್ಳುತ್ತದೆ. ನಿಮ್ಮ ಉದ್ಯೋಗವು ಡೇಟಾವನ್ನು ಷಫಲ್ ಮಾಡಲು 40 ನಿಮಿಷಗಳನ್ನು ಮತ್ತು ಪಟ್ಟಿ ಮಾಡಲು ಮೂರು ಸೆಕೆಂಡುಗಳನ್ನು ಕಳೆದರೆ, ಪಟ್ಟಿಗಾಗಿ ಪ್ರತಿ ಕರೆಗೆ ಹೆಚ್ಚುವರಿ ಮಿಲಿಸೆಕೆಂಡ್ ನಿಮ್ಮ P99 ಅನ್ನು ಚಲಾಯಿಸುವುದಿಲ್ಲ.
ನೀವು ಅದನ್ನು ಎಲ್ಲಿ ಅನುಭವಿಸುತ್ತೀರಿ:
- ಅನೇಕ ಸಣ್ಣ ಫೈಲ್ಗಳಿಗೆ ಹೆಚ್ಚಿನ-ಚರ್ನ್ ಬರವಣಿಗೆಗಳು. ಆದರೆ ಮತ್ತೆ, ಖಳನಾಯಕ ಸಣ್ಣ ಫೈಲ್ಗಳು. ಕಾಂಪ್ಯಾಕ್ಷನ್ ಬಳಸಿ. ಲೇಔಟ್ಗಳನ್ನು ಅರ್ಥಮಾಡಿಕೊಳ್ಳುವ ಟೇಬಲ್ ಫಾರ್ಮ್ಯಾಟ್ಗಳನ್ನು ಬಳಸಿ (ಡೆಲ್ಟಾ, ಐಸ್ಬರ್ಗ್, ಹುಡಿ). lakeFS ಅವರೊಂದಿಗೆ ಸಹಬಾಳ್ವೆ ನಡೆಸುತ್ತದೆ; ಅದು ಅವರನ್ನು ಬದಲಿಸುವುದಿಲ್ಲ.
- ಸಂವಾದಾತ್ಮಕ ವರ್ಕ್ಲೋಡ್ಗಳು. ನೀವು ಉಚಿತ ಕ್ಯಾಂಡಿಯಂತೆ ಪಟ್ಟಿ ಮಾಡುವ ಇಂಜಿನ್ಗಳ ಮೂಲಕ ಜಾಹೀರಾತು ಹಾಕ್ ಪ್ರಶ್ನೆಗಳನ್ನು ಚಲಾಯಿಸುತ್ತಿದ್ದರೆ, ನೀವು ಇಂಡೈರೆಕ್ಷನ್ ಅನ್ನು ಹೆಚ್ಚು ಗಮನಿಸುತ್ತೀರಿ. ಕ್ಲೈಂಟ್ ಅನ್ನು ಟ್ಯೂನ್ ಮಾಡಿ ಮತ್ತು ನೀವು ಏನು ಸಂಗ್ರಹಿಸಬಹುದು.
ನಿಮ್ಮ ವಿಮರ್ಶಕರು ಒಂದೇ ಚಾರ್ಟ್ ಅನ್ನು ಒತ್ತಾಯಿಸಿದರೆ: ಓವರ್ಹೆಡ್ ಅಳೆಯಬಹುದಾದದು ಆದರೆ ಹೆಚ್ಚಿನ ಪೈಪ್ಲೈನ್ಗಳಿಗೆ ಸ್ವೀಕಾರಾರ್ಹವಾಗಿದೆ ಮತ್ತು ಅದು ಪರಮಾಣುತೆ ಮತ್ತು ಪ್ರತ್ಯೇಕತೆಯನ್ನು ಖರೀದಿಸುತ್ತದೆ, ಇಲ್ಲದಿದ್ದರೆ ನೀವು ಹೊಂದಿಲ್ಲ. ನೀವು ಪುನರುತ್ಪಾದನೆಯ ವೆಚ್ಚದಲ್ಲಿ ವೇಗವನ್ನು ಬಯಸಿದರೆ, ನೀವು ಯಾವಾಗಲೂ s3://yolo ಗೆ ಬರೆಯಬಹುದು ಮತ್ತು ಉತ್ತಮವಾದುದನ್ನು ನಿರೀಕ್ಷಿಸಬಹುದು.
lakeFS vs ಡೆಲ್ಟಾ ಲೇಕ್ vs ಅಪಾಚೆ ಐಸ್ಬರ್ಗ್ vs ಹುಡಿ
ಹೌದು, ಕಡ್ಡಾಯ ಹೋಲಿಕೆ ವಿಭಾಗ. ವಿಭಿನ್ನ ಲೇಯರ್ಗಳು, ವಿಭಿನ್ನ ಉದ್ಯೋಗಗಳು:
- lakeFS: ಅನಿಯಂತ್ರಿತ ವಸ್ತುಗಳಾದ್ಯಂತ ಆವೃತ್ತಿ ನಿಯಂತ್ರಣ ಪ್ಲೇನ್. Git ತರಹದ ಕಾರ್ಯವಿಧಾನಗಳು, ಶಾಖೆಗಳು, ಕಮಿಟ್ಗಳು. ಟೇಬಲ್ ಫಾರ್ಮ್ಯಾಟ್ಗಳ ಜೊತೆಗೆ ಕೆಲಸ ಮಾಡುತ್ತದೆ, ಅವುಗಳ ಬದಲು ಅಲ್ಲ.
- ಡೆಲ್ಟಾ/ಐಸ್ಬರ್ಗ್/ಹುಡಿ: ACID ಅರ್ಥವಿವರಣೆಯೊಂದಿಗೆ ಟೇಬಲ್ ಫಾರ್ಮ್ಯಾಟ್ಗಳು ಮತ್ತು ಅವುಗಳ ಸ್ವಂತ ಸಮಯ ಪ್ರಯಾಣ. ಅವರು ಟೇಬಲ್ ಮಟ್ಟದಲ್ಲಿ ಮೆಟಾಡೇಟಾವನ್ನು ನಿರ್ವಹಿಸುತ್ತಾರೆ, ಸಂಪೂರ್ಣ ಬಕೆಟ್ಗಳಲ್ಲ.
ಅಂದವಾದ ವಿಷಯವೆಂದರೆ ಅವು ಪರಸ್ಪರ ಪೂರಕವಾಗಿವೆ:
- ಟೇಬಲ್-ಮಟ್ಟದ ಸಮಯ ಪ್ರಯಾಣ ಬೇಕೇ? ಐಸ್ಬರ್ಗ್ ಅಥವಾ ಡೆಲ್ಟಾವನ್ನು ಬಳಸಿ. ಸಂಪೂರ್ಣ ಪೈಪ್ಲೈನ್ಗಾಗಿ ಅಡ್ಡ-ಟೇಬಲ್ ಪರಮಾಣುತೆ ಮತ್ತು ಪರಿಸರ ಪ್ರತ್ಯೇಕತೆಯ ಅಗತ್ಯವಿದೆಯೇ? ಆರ್ಕೆಸ್ಟ್ರೇಶನ್ ಲೇಯರ್ಗಾಗಿ lakeFS ಶಾಖೆಗಳನ್ನು ಬಳಸಿ.
- ಬಹು ಡೇಟಾಸೆಟ್ಗಳಾದ್ಯಂತ ವಿಲೀನಗಳು? lakeFS ನೊಂದಿಗೆ ಸುಲಭ ಏಕೆಂದರೆ ಅದರ ಕಮಿಟ್ಗಳು ಬಹು ಮಾರ್ಗಗಳನ್ನು ವ್ಯಾಪಿಸುತ್ತವೆ. ಟೇಬಲ್ ಫಾರ್ಮ್ಯಾಟ್ಗಳು "ಈ ಐದು ಟೇಬಲ್ಗಳನ್ನು ಒಟ್ಟಿಗೆ ಕಮಿಟ್ ಮಾಡಿ ಅಥವಾ ಎಲ್ಲವನ್ನೂ ರೋಲ್ ಬ್ಯಾಕ್ ಮಾಡಿ" ಎಂಬುದನ್ನು ಬಾಕ್ಸ್ನಿಂದ ಹೊರಗೆ ಮಾಡುವುದಿಲ್ಲ.
ಯಾರಾದರೂ ನಿಮಗೆ "ಒಂದನ್ನು ಆರಿಸಿ" ಎಂದು ಹೇಳಿದರೆ, ಅವರು ಸತ್ಯದ ವೆಚ್ಚದಲ್ಲಿ ನಿಮಗೆ ಸರಳತೆಯನ್ನು ಮಾರಾಟ ಮಾಡುತ್ತಿದ್ದಾರೆ. ಅರ್ಥವಾಗುವಲ್ಲಿ ಎರಡನ್ನೂ ಬಳಸಿ. ನೀವು ತಿನ್ನಲು ಸಾಧ್ಯವಾಗದ ಟ್ರೈಫಲ್ನೊಂದಿಗೆ ಕೊನೆಗೊಳ್ಳುವಷ್ಟು ಲೇಯರ್ಗಳನ್ನು ಜೋಡಿಸಬೇಡಿ.
ಡೆವಲಪರ್ ಅನುಭವ: ಕೊಕ್ಕೆಗಳು, ನೀತಿಗಳು, ಗಾರ್ಡ್ರೈಲ್ಗಳು
lakeFS ನ ಉತ್ತಮ ವಿಮರ್ಶೆಯು ಕೊಕ್ಕೆಗಳ ಬಗ್ಗೆ ಮಾತನಾಡಬೇಕು. ಪೂರ್ವ ಮತ್ತು ನಂತರದ ಕಮಿಟ್ ಅಥವಾ ಪೂರ್ವ-ವಿಲೀನ ಕೊಕ್ಕೆಗಳು ನಿಮಗೆ ನಿಯಮಗಳನ್ನು ಜಾರಿಗೊಳಿಸಲು ಅನುವು ಮಾಡಿಕೊಡುತ್ತದೆ: ಸ್ಕೀಮಾ ತಪಾಸಣೆಗಳು, ಡೇಟಾ ಗುಣಮಟ್ಟ ಪರೀಕ್ಷೆಗಳು, PII ಸ್ಕ್ಯಾನ್ಗಳು, ಸಾಲು-ಎಣಿಕೆ ವಿವೇಕ ತಪಾಸಣೆಗಳು, "ಕಸವನ್ನು ರವಾನಿಸಬೇಡಿ" ಎಂಬ ನಿಮ್ಮ ಆಂತರಿಕ ವ್ಯಾಖ್ಯಾನ ಏನೇ ಇರಲಿ.
- ಒಳ್ಳೆಯದು: ಕೊಕ್ಕೆಗಳು ಸಂಸ್ಕೃತಿಯನ್ನು ಕೋಡ್ ಆಗಿ ಪರಿವರ್ತಿಸುತ್ತವೆ. ನೀವು "
main ಗೆ ಯಾವುದೇ ಬ್ರೇಕಿಂಗ್ ಸ್ಕೀಮಾ ಬದಲಾವಣೆಗಳಿಲ್ಲ," ಅಥವಾ "ಕನಿಷ್ಠ ಡೇಟಾ ಗುಣಮಟ್ಟದ ಸ್ಕೋರ್ ಇಲ್ಲದೆ ಯಾವುದೇ ವಿಲೀನಗಳಿಲ್ಲ," ಅಥವಾ "X ಗಿಂತ ದೊಡ್ಡದಾದ ಯಾವುದೇ ಫೈಲ್ಗಳಿಲ್ಲ" ಎಂದು ಜಾರಿಗೊಳಿಸಬಹುದು. ಇದು ಡೇಟಾಗೆ CI ಆಗಿದೆ.
- ಕೆಟ್ಟದ್ದು-ಇಶ್: ನಿಮ್ಮ ನೀತಿಗಳು ಅಸ್ಪಷ್ಟವಾಗಿದ್ದರೆ ಅಥವಾ ನಿಮ್ಮ ಪರೀಕ್ಷೆಗಳು ದುರ್ಬಲವಾಗಿದ್ದರೆ, ಕೊಕ್ಕೆಗಳು ನಿಮ್ಮ ತಂಡಕ್ಕೆ ಅಡಚಣೆಯಾಗುತ್ತವೆ ಮತ್ತು ಪ್ರತಿಯೊಬ್ಬರೂ ಸಡಿಲವಾದ ನಿಯಮಗಳನ್ನಲ್ಲ, ಉಪಕರಣವನ್ನು ದ್ವೇಷಿಸುತ್ತಾರೆ.
ಮಾನವ ಭಾಗವೂ ಇದೆ: ಶಾಖೆ ಹೆಸರಿಸುವಿಕೆ, ವಿಮರ್ಶೆ ಶಿಸ್ತು, "ಸರಿಪಡಿಸು" ಗಿಂತ ಹೆಚ್ಚಿನದನ್ನು ಹೇಳುವ ಕಮಿಟ್ ಸಂದೇಶಗಳು. lakeFS ನಿಮ್ಮ ತಂಡಕ್ಕೆ ರುಚಿಯನ್ನು ಕಲಿಸಲು ಸಾಧ್ಯವಿಲ್ಲ, ಆದರೆ ಅದನ್ನು ಬರೆಯಲು ಅವರನ್ನು ಪ್ರೇರೇಪಿಸುತ್ತದೆ.
ಭದ್ರತೆ, ಪ್ರವೇಶ ಮತ್ತು ಸಣ್ಣ ಮುದ್ರಣ
lakeFS I/O ಮಾರ್ಗದಲ್ಲಿ ಕುಳಿತಿರುವ ಕಾರಣ, ನೀವು ಗುರುತುಗಳು ಮತ್ತು ಅನುಮತಿಗಳನ್ನು ಅಲ್ಲಿಯೂ ಮ್ಯಾಪ್ ಮಾಡುತ್ತೀರಿ. ಕನಿಷ್ಠ ಸವಲತ್ತು ಇನ್ನೂ ಅನ್ವಯಿಸುತ್ತದೆ. ನಿಮ್ಮ ಸಂಸ್ಥೆಯು ಈಗಾಗಲೇ IAM ನೀತಿಗಳ ಹೇರ್ಬಾಲ್ ಹೊಂದಿದ್ದರೆ, ಅದನ್ನು ಬ್ರಷ್ ಮಾಡಲು ನಿರೀಕ್ಷಿಸಿ. ನೀವು ಬಹುಶಃ ನಿಮ್ಮ ತಾರ್ಕಿಕ ಡೊಮೇನ್ಗಳನ್ನು ಪ್ರತಿಬಿಂಬಿಸುವ lakeFS ರೆಪೊಗಳೊಂದಿಗೆ ಕೊನೆಗೊಳ್ಳುತ್ತೀರಿ ಮತ್ತು main ಗೆ ಯಾರು ವಿಲೀನಗೊಳಿಸಬಹುದು ಎಂಬುದಕ್ಕೆ ಶಾಖೆ-ಮಟ್ಟದ ಅನುಮತಿಗಳನ್ನು ಹೊಂದಿರುತ್ತೀರಿ.
- ಲೆಕ್ಕಪರಿಶೋಧನೆಗಳು: ಕಮಿಟ್ಗಳು ಮತ್ತು ವಿಲೀನಗಳು ಗಮನಾರ್ಹವಾಗಿ ಲೆಕ್ಕಪರಿಶೋಧನೆ-ಸ್ನೇಹಿಯಾಗಿವೆ. "ಯಾರು ಏನು ಬದಲಾಯಿಸಿದರು, ಯಾವಾಗ ಮತ್ತು ಏಕೆ?" ಎಂಬುದು ಪ್ರಶ್ನೆಯಾಗಿದೆ, ಮಾಟಗಾತಿ ಬೇಟೆಯಲ್ಲ.
- ರಹಸ್ಯಗಳು: ಅವುಗಳನ್ನು lakeFS ಕಾನ್ಫಿಗರೇಶನ್ಗಳಿಂದ ಹೊರಗಿಡಿ ಮತ್ತು ನಿಮ್ಮ ಸಾಮಾನ್ಯ ರಹಸ್ಯ ವ್ಯವಸ್ಥಾಪಕಕ್ಕೆ ಸೇರಿಸಿ. ಸಾಮಾನ್ಯ ಜ್ಞಾನವು ಯಾವಾಗಲೂ ಸಾಮಾನ್ಯವಲ್ಲ.
lakeFS ಎಲ್ಲಿ ಬೆಳಗುತ್ತದೆ
- ಪುನರುತ್ಪಾದಿಸಬಹುದಾದ ML ಪೈಪ್ಲೈನ್ಗಳು:
main@<commit> ನಲ್ಲಿ ತರಬೇತಿ ನೀಡುವುದು ಮತ್ತು candidate ಶಾಖೆಯಲ್ಲಿ ಮೌಲ್ಯಮಾಪನ ಮಾಡುವುದು ಒಂದು ಸೂಕ್ಷ್ಮ ಮಾದರಿಯಾಗಿದೆ. ನೀವು ಮಾದರಿಯನ್ನು ಪ್ರಚಾರ ಮಾಡಿದಾಗ, ನೀವು ಅದರೊಂದಿಗೆ ಡೇಟಾ ಸ್ನ್ಯಾಪ್ಶಾಟ್ ಅನ್ನು ಪ್ರಚಾರ ಮಾಡಬಹುದು.
- ಅಡ್ಡ-ಟೇಬಲ್ ಪರಮಾಣು ನಿಯೋಜನೆಗಳು: ಅನೇಕ ಡೇಟಾಸೆಟ್ಗಳನ್ನು ವ್ಯಾಪಿಸುವ ಸಂಕೀರ್ಣ ETL ನೀವು ಶಾಖೆಯನ್ನು ವಿಲೀನಗೊಳಿಸಿದಾಗ ನಿಜವಾದ ಪರಮಾಣು ಕಾರ್ಯಾಚರಣೆಯಾಗುತ್ತದೆ. ರೋಲ್ಬ್ಯಾಕ್ ಮತ್ತೆ ಏನನ್ನಾದರೂ ಅರ್ಥೈಸುತ್ತದೆ.
- ಸುರಕ್ಷಿತ ಬ್ಯಾಕ್ಫಿಲ್ಗಳು: ಪ್ರತ್ಯೇಕವಾಗಿ ಬ್ಯಾಕ್ಫಿಲ್ಗಳನ್ನು ಚಲಾಯಿಸಿ. ನೀವು ವಿಂಡೋವನ್ನು ಹಾಳುಮಾಡಿದರೆ, ಯಾವುದೇ ಹಾನಿಯಾಗುವುದಿಲ್ಲ. ಅದು ಉತ್ತಮವಾಗಿದ್ದರೆ, ವಿಲೀನಗೊಳಿಸಿ. ಇಲ್ಲದಿದ್ದರೆ, ಅದನ್ನು ಎಸೆಯಿರಿ ಮತ್ತು ಮತ್ತೆ ಪ್ರಯತ್ನಿಸಿ.
lakeFS ಎಲ್ಲಿ ನಿರಾಶೆಗೊಳಿಸುತ್ತದೆ (ಅಥವಾ, ಕನಿಷ್ಠ, ಸಹಾಯ ಮಾಡುವುದಿಲ್ಲ)
- ನಿರಂತರವಾಗಿ ರೂಪಾಂತರಗೊಳ್ಳುವ ಡೇಟಾದ ಮೇಲೆ ಸಂವಾದಾತ್ಮಕ BI: ನಿಮ್ಮ ಬಳಕೆಯ ಸಂದರ್ಭವು "ನಾವು ದಿನವಿಡೀ ಲೈವ್ ಡೇಟಾವನ್ನು ಚುಚ್ಚುವ ವಿಶ್ಲೇಷಕರನ್ನು ಹೊಂದಿದ್ದೇವೆ" ಆಗಿದ್ದರೆ, ಶಾಖೆ ಮಾದರಿಯು ಸಹಾಯ ಮಾಡುವುದಕ್ಕಿಂತ ಹೆಚ್ಚು ಗೊಂದಲವನ್ನುಂಟುಮಾಡುತ್ತದೆ. ಸೇವನೆಯನ್ನು ಸ್ಥಿರಗೊಳಿಸುವುದು ಮತ್ತು BI ಅನ್ನು ಆಶೀರ್ವದಿಸಿದ ಸ್ನ್ಯಾಪ್ಶಾಟ್ನಲ್ಲಿ ಇಡುವುದು ಉತ್ತಮ.
- ವೈಲ್ಡ್-ವೆಸ್ಟ್ ಡೇಟಾ ಸಂಸ್ಕೃತಿಗಳು: ನಿಮ್ಮ ಸಂಸ್ಥೆಯು ಡೇಟಾವನ್ನು ಗುಂಪು ಚಾಟ್ನಂತೆ ಪರಿಗಣಿಸಿದರೆ - ಕ್ಷಣಿಕ, ರಚನೆಯಿಲ್ಲದ, ಭಾವನೆಗಳು-ಮೊದಲು - lakeFS ಕೆಲಸಗಳಂತೆ ಭಾಸವಾಗುತ್ತದೆ. ಪರಿಕರಗಳು ಸಂಸ್ಕೃತಿಯನ್ನು ಸರಿಪಡಿಸುವುದಿಲ್ಲ; ಅವರು ಅದನ್ನು ಸಂಕೇತಿಸುತ್ತಾರೆ.
ಅನಿವಾರ್ಯ ಅನುಮಾನಾಸ್ಪದ ಪ್ರಶ್ನೆ: ಇದು ಅತಿಯಲ್ಲವೇ?
ಕೆಲವೊಮ್ಮೆ, ಹೌದು. ನಿಮ್ಮ ಲೇಕ್ ಕೆಲವು ಟೆರಾಬೈಟ್ಗಳಾಗಿದ್ದರೆ, ನಿಮ್ಮ ಬಳಕೆದಾರರು ಶಿಸ್ತುಬದ್ಧರಾಗಿದ್ದರೆ ಮತ್ತು ನಿಮ್ಮ ಪೈಪ್ಲೈನ್ಗಳು ಸರಳವಾಗಿದ್ದರೆ, ನಿಯಂತ್ರಣ ಪ್ಲೇನ್ನ ಓವರ್ಹೆಡ್ ಮೌಲ್ಯಕ್ಕಿಂತ ಹೆಚ್ಚು ಸಮಾರಂಭವಾಗಿರಬಹುದು. ಮತ್ತೆ, ಶಿಸ್ತು ಅರ್ಧ-ಜೀವಿತಾವಧಿಯನ್ನು ಹೊಂದಿದೆ. ತಂಡವು ಬೆಳೆಯುತ್ತದೆ, ಅವಶ್ಯಕತೆಗಳು ಬೆಳೆಯುತ್ತವೆ, ಶುಕ್ರವಾರದ ನಿಯೋಜನೆಗಳು ನಡೆಯುತ್ತವೆ ಮತ್ತು ಇದ್ದಕ್ಕಿದ್ದಂತೆ ನಿಮಗೆ ಸುರಕ್ಷತಾ ಸರಂಜಾಮು ಬೇಕು.
ಡೇಟಾಗೆ ಆವೃತ್ತಿ ನಿಯಂತ್ರಣವು ಅತಿಯಾದದ್ದು ಎಂದು ತೋರುವ ಆಲೋಚನೆಗಳಲ್ಲಿ ಒಂದಾಗಿದೆ, ಮೊದಲ ಬಾರಿಗೆ ನೀವು ಸಂಪೂರ್ಣ ಪೈಪ್ಲೈನ್ ಅನ್ನು ರೋಲ್ ಬ್ಯಾಕ್ ಮಾಡಬೇಕಾಗುತ್ತದೆ ಮತ್ತು ಕೇವಲ ಒಂದು ಟೇಬಲ್ ಅಲ್ಲ. ಆ ಕ್ಷಣ lakeFS "ಚೆನ್ನಾಗಿವೆ" ನಿಂದ "ಅಗತ್ಯ" ಕ್ಕೆ ಹೋಗುತ್ತದೆ.
ಬೆಲೆ, ಬೆಂಬಲ ಮತ್ತು ವ್ಯಾಪಾರ ಬಿಟ್
ನೀವು lakeFS ಅನ್ನು ನೀವೇ ಚಲಾಯಿಸಬಹುದು ಅಥವಾ ನಿರ್ವಹಿಸಿದ ಆಯ್ಕೆಯನ್ನು ಬಳಸಬಹುದು. ನೀವು ಈಗಾಗಲೇ ರಾಜ್ಯ ಸೇವೆಗಳನ್ನು ನಿರ್ವಹಿಸುತ್ತಿದ್ದರೆ ಸ್ವಯಂ-ಹೋಸ್ಟ್ ಮಾರ್ಗವು ನೇರವಾಗಿರುತ್ತದೆ. ಇಲ್ಲದಿದ್ದರೆ, ಅಭಿನಂದನೆಗಳು, ನೀವು ಒಂದನ್ನು ಅಳವಡಿಸಿಕೊಂಡಿದ್ದೀರಿ. ನಿರ್ವಹಿಸಿದ ಮಾರ್ಗವು ನಿಮಗೆ ನವೀಕರಣಗಳನ್ನು ಮತ್ತು ಬೆಳಿಗ್ಗೆ 3 ಗಂಟೆಗೆ ಪುಟಕ್ಕೆ ಯಾರನ್ನಾದರೂ ಖರೀದಿಸುತ್ತದೆ. ಎರಡೂ ರೀತಿಯಲ್ಲಿ, ಮೂಲಭೂತ ವೆಚ್ಚವು ಪರವಾನಗಿ ಅಲ್ಲ; ಆವೃತ್ತಿಯ ಕಾರ್ಯವಿಧಾನಗಳನ್ನು ಅಳವಡಿಸಿಕೊಳ್ಳಲು ಸಾಂಸ್ಥಿಕ ಕೆಲಸ: ಪರೀಕ್ಷೆಗಳನ್ನು ಬರೆಯುವುದು, ಶಾಖೆ ನೀತಿಗಳನ್ನು ಹೊಂದಿಸುವುದು, ನಿರೀಕ್ಷೆಗಳನ್ನು ಹೊಂದಿಸುವುದು.
ಗುಪ್ತವಾದ ಉತ್ತಮ ಭಾಗ: ನೀವು ಆ ಕೆಲಸವನ್ನು ಮಾಡಿದ ನಂತರ, ಉಳಿದೆಲ್ಲವೂ ಸುಲಭವಾಗುತ್ತದೆ. ಘಟನೆ ಪ್ರತಿಕ್ರಿಯೆ, ಪುನರುತ್ಪಾದಿಸಬಹುದಾದ ಸಂಶೋಧನೆ, ಅನುಸರಣೆ ವಿಮರ್ಶೆಗಳು. "ನಿನ್ನೆಯ ಡೇಟಾ" ಎಂದರೆ ಏನು ಎಂಬುದರ ಬಗ್ಗೆ ನೀವು ಕಡಿಮೆ ಸಭೆಗಳನ್ನು ವಾದಿಸುತ್ತೀರಿ.
ಉಪಕರಣ ಪರಿಸರ ವ್ಯವಸ್ಥೆ ಮತ್ತು ವಾಸ್ತವ ತಪಾಸಣೆಗಳು
lakeFS ಸ್ಪಾರ್ಕ್, ಟ್ರಿನೊ ಮತ್ತು ಪೈಥಾನ್ನೊಂದಿಗೆ ಚೆನ್ನಾಗಿ ಕಾರ್ಯನಿರ್ವಹಿಸುತ್ತದೆ - ಸಾಮಾನ್ಯ ಅನುಮಾನಿತರು. ನೀವು ಶಾಖೆಗಳನ್ನು ಪರಿಸರಗಳೆಂದು ಪರಿಗಣಿಸಿದಾಗ ಮತ್ತು ನಿಮ್ಮ ಆರ್ಕೆಸ್ಟ್ರೇಶನ್ ಉಪಕರಣಕ್ಕೆ (ಏರ್ಫ್ಲೋ, ಡಾಗ್ಸ್ಟರ್, ಪ್ರಿಫೆಕ್ಟ್ - ನಿಮ್ಮ ವಿಷವನ್ನು ಆರಿಸಿ) ಡೀಫಾಲ್ಟ್ ಆಗಿ ಶಾಖೆಗಳಲ್ಲಿ ಕಾರ್ಯನಿರ್ವಹಿಸಲು ಕಲಿಸಿದಾಗ ದೊಡ್ಡ ಅಂಚು ಬರುತ್ತದೆ.
ವಾಸ್ತವ ತಪಾಸಣೆ: ನಿಮ್ಮ ಉದ್ಯೋಗಗಳು ಅಥವಾ ವಿಶ್ಲೇಷಕರು ಬುಡಕಟ್ಟು ಹೆಸರಿಸುವ ಸಮಾವೇಶಗಳೊಂದಿಗೆ ಬಕೆಟ್ ಮಾರ್ಗಗಳಿಗೆ ಹಾರ್ಡ್-ಕೋಡೆಡ್ ಆಗಿದ್ದರೆ, ನೀವು ಅದನ್ನು ಮೊದಲು ಬಿಚ್ಚಬೇಕಾಗುತ್ತದೆ. ಅವುಗಳನ್ನು lakeFS ಎಂಡ್ಪಾಯಿಂಟ್ಗಳಿಗೆ ಸೂಚಿಸುವುದು ಸುಲಭ; ಹಾರ್ಡ್-ಕೋಡೆಡ್ ಊಹೆಗಳನ್ನು ಸರಿಪಡಿಸುವುದು ಅಲ್ಲ.
Sider.AI ಬಗ್ಗೆ ಒಂದು ತ್ವರಿತ ಮಾತು
ನೀವು ಇದನ್ನು Sider.AI’s ಬ್ಲಾಗ್ನಲ್ಲಿ ಓದುತ್ತಿರುವುದರಿಂದ, ಪ್ರಾಮಾಣಿಕವಾದ ವಿಷಯ: Sider.AI ವಿಮರ್ಶೆ ಮತ್ತು ವಿಶ್ಲೇಷಣೆಗೆ ಪ್ರಾಯೋಗಿಕ ಸಹಾಯಕರಾಗಿ ಕಾರ್ಯನಿರ್ವಹಿಸುತ್ತದೆ - ವಿಶೇಷವಾಗಿ lakeFS ನಂತಹ ಉಪಕರಣದ ಸುತ್ತಲೂ ಡಾಕ್ಸ್, ರೆಪೊ ರಚನೆಗಳು ಮತ್ತು ಕೋಡ್ ತುಣುಕುಗಳನ್ನು ನೀವು ತೋರಿಸಿದಾಗ. ಇದು ನಿಮ್ಮ ಪೈಪ್ಲೈನ್ ಅನ್ನು ಚಲಾಯಿಸಲು ಹೋಗುವುದಿಲ್ಲ. ಆದರೆ ಕಥಾವಸ್ತುವನ್ನು ಕಳೆದುಕೊಳ್ಳದೆ ಕೊಕ್ಕೆಗಳು, ಕಾನ್ಫಿಗರೇಶನ್ಗಳು ಮತ್ತು ಡೇಟಾ ಗುಣಮಟ್ಟದ ತಪಾಸಣೆಗಳನ್ನು ಕ್ರಾಸ್-ರೆಫರೆನ್ಸ್ ಮಾಡಬಹುದಾದ ಸಾರಾಂಶ-ವಿಮರ್ಶಕವನ್ನು ನೀವು ಬಯಸಿದರೆ, ಅದು ಬೇಸರದ, ನೈಜ-ಪ್ರಪಂಚದ ರೀತಿಯಲ್ಲಿ ಉಪಯುಕ್ತವಾಗಿದೆ. ನೀವು ನಿಜವಾದ ಕೆಲಸವನ್ನು ಮಾಡುತ್ತಿರುವಾಗ ನಿಮ್ಮ ದಾರಿಯಿಂದ ಹೊರಬರುವ ರೀತಿಯ ಉಪಕರಣ. ದೊಡ್ಡ ಚಿತ್ರ: 2025 ರ ಡೇಟಾ ಸ್ಟ್ಯಾಕ್ನಲ್ಲಿ lakeFS
ನಾವು ವಿಚಿತ್ರವಾದ ಕ್ಷಣದಲ್ಲಿದ್ದೇವೆ, ಅಲ್ಲಿ ಪ್ರತಿಯೊಬ್ಬರೂ ಲೇಕ್ನಲ್ಲಿ ACID ಅನ್ನು ಬಯಸುತ್ತಾರೆ, ಆದರೆ ಅದರೊಂದಿಗೆ ಹೋಗುವ ರಾಜಿಗಳನ್ನು ಯಾರೂ ಬಯಸುವುದಿಲ್ಲ. ಟೇಬಲ್ ಫಾರ್ಮ್ಯಾಟ್ಗಳು ಟೇಬಲ್-ಮಟ್ಟದ ಸಮಸ್ಯೆಗಳನ್ನು ಸರಿಪಡಿಸುತ್ತವೆ. lakeFS ಪರಿಸರ-ಮಟ್ಟದ ಸಮಸ್ಯೆಗಳನ್ನು ಸರಿಪಡಿಸುತ್ತದೆ. ಗೋದಾಮುಗಳು ಉಪಾಹಾರಕ್ಕಾಗಿ ವರ್ಕ್ಲೋಡ್ಗಳನ್ನು ತಿನ್ನುತ್ತವೆ, ಅವುಗಳು ಇಲ್ಲದವರೆಗೆ. ನೀವು ನಿಜವಾಗಿ ಅನುಭವಿಸುವ ವೈಫಲ್ಯದ ವಿಧಾನವನ್ನು ಪರಿಹರಿಸುವ ಲೇಯರ್ ಅನ್ನು ಆರಿಸಿ.
lakeFS ನ ನಿಜವಾದ ಕೊಡುಗೆ ಸಾಂಸ್ಕೃತಿಕವಾಗಿದೆ: ಇದು ಡೇಟಾ ತಂಡಗಳನ್ನು ವೈಬ್ಗಳಲ್ಲ, ಕಮಿಟ್ಗಳಲ್ಲಿ ಯೋಚಿಸುವಂತೆ ತಳ್ಳುತ್ತದೆ. "ಏನು ಬದಲಾಯಿತು?" ಎಂಬುದು ಸಭೆಯಲ್ಲ, ಪ್ರಶ್ನೆಯಾಗಿ ಪರಿಗಣಿಸಲು. ತಾಂತ್ರಿಕ ತುಣುಕು ಗೌರವಾನ್ವಿತವಾಗಿದೆ. ಸಾಂಸ್ಕೃತಿಕ ಪ್ರಚೋದನೆಯೇ ಮುಖ್ಯ.
ಪ್ರಾಯೋಗಿಕ lakeFS ಪ್ಲೇಬುಕ್: ನಾನು ನಿಜವಾಗಿ ಏನು ಮಾಡುತ್ತೇನೆ
- ಚಿಕ್ಕದಾಗಿ ಪ್ರಾರಂಭಿಸಿ: ಒಂದು ನಿರ್ಣಾಯಕ ಪೈಪ್ಲೈನ್ ಅನ್ನು lakeFS ನೊಂದಿಗೆ ಸುತ್ತಿಕೊಳ್ಳಿ. ಪ್ರತಿ ರನ್ಗೆ ಡೀಫಾಲ್ಟ್ ಆಗಿ
dev ಶಾಖೆಯನ್ನು ರಚಿಸಿ. ಹಸಿರು ತಪಾಸಣೆಗಳಲ್ಲಿ ಮಾತ್ರ main ಗೆ ವಿಲೀನಗೊಳಿಸಿ.
- ಎರಡು ಅಥವಾ ಮೂರು ಕೊಲೆಗಡುಕ ಕೊಕ್ಕೆಗಳನ್ನು ಬರೆಯಿರಿ: ಸ್ಕೀಮಾ ಹೊಂದಾಣಿಕೆ, ಸಾಲು-ಎಣಿಕೆ ವಿವೇಕ ಮತ್ತು PII ಪತ್ತೆ. ಅದನ್ನು ಅತಿಯಾಗಿ ಯೋಚಿಸಬೇಡಿ; ನಿಮ್ಮ ಉನ್ನತ ಮೂರು ಐತಿಹಾಸಿಕ ಫೂಟ್-ಗನ್ಗಳನ್ನು ಹಿಡಿಯುವ ತಪಾಸಣೆಗಳನ್ನು ಆರಿಸಿ.
- ನಿಮ್ಮ ಆರ್ಕೆಸ್ಟ್ರೇಟರ್ ಶಾಖೆಗಳನ್ನು ಕಲಿಸಿ: ಏರ್ಫ್ಲೋ DAG ಗಳು ಅಥವಾ ಡಾಗ್ಸ್ಟರ್ ಉದ್ಯೋಗಗಳು
branch ನಿಯತಾಂಕವನ್ನು ತೆಗೆದುಕೊಳ್ಳಬೇಕು. dev-<dag-run-id> ಗೆ ಡೀಫಾಲ್ಟ್ ಮಾಡಿ.
- BI ಗಾಗಿ ಸ್ನ್ಯಾಪ್ಶಾಟ್ಗಳನ್ನು ಆಶೀರ್ವದಿಸಿ: ಡ್ಯಾಶ್ಬೋರ್ಡ್ಗಳನ್ನು
main@<tag> ಗೆ ಸೂಚಿಸಿ ಮತ್ತು ನಿಯೋಜನೆಯಲ್ಲಿ ಟ್ಯಾಗ್ಗಳನ್ನು ನವೀಕರಿಸಿ. ವಿಶ್ಲೇಷಕರು ಚೆನ್ನಾಗಿ ನಿದ್ರಿಸುತ್ತಾರೆ; ಹಾಗೆಯೇ ನೀವು.
- ವಿಲೀನ ಶಿಷ್ಟಾಚಾರವನ್ನು ದಾಖಲಿಸಿ: ಯಾರು ವಿಲೀನಗೊಳಿಸಬಹುದು, ಶಾಖೆಗಳನ್ನು ಹೇಗೆ ಹೆಸರಿಸುವುದು ಮತ್ತು ಹೇಗೆ ರೋಲ್ ಬ್ಯಾಕ್ ಮಾಡುವುದು. ಇದು ಒಂದೇ ಪುಟದಲ್ಲಿ ಇಲ್ಲದಿದ್ದರೆ, ಅದು ಅಸ್ತಿತ್ವದಲ್ಲಿಲ್ಲ.
ಇದು lakeFS ಅನ್ನು ಆಸಕ್ತಿದಾಯಕದಿಂದ ಅನಿವಾರ್ಯವಾಗಿ ಪರಿವರ್ತಿಸುವ ಪ್ರೋಟೋಕಾಲ್ ಆಗಿದೆ.
ಉಪಭಾಷಾ ಬಿಟ್: ಏನು ತಪ್ಪಾಗಬಹುದು
- ಪ್ರಕ್ರಿಯೆ ಆಸಿಫಿಕೇಶನ್: ತುಂಬಾ ಗೇಟ್ಗಳನ್ನು ರಚಿಸಿ ಮತ್ತು ನಿಮ್ಮ ತಂಡವು ಅವುಗಳ ಸುತ್ತಲೂ ಮಾರ್ಗವನ್ನು ಕಂಡುಕೊಳ್ಳುತ್ತದೆ. ಗುರಿ ಸುರಕ್ಷತೆ, ಅಧಿಕಾರಶಾಹಿಯಲ್ಲ.
- ಸುಳ್ಳು ಸೌಕರ್ಯ: ಆವೃತ್ತಿಯು ಡೇಟಾವನ್ನು ಸರಿಯಾಗಿಸುವುದಿಲ್ಲ. ಅದು ದೂರು ನೀಡುವಂತೆ ಮಾಡುತ್ತದೆ. ನಿಮಗೆ ಇನ್ನೂ ನಿಜವಾದ ಮೌಲ್ಯೀಕರಣ ಬೇಕು.
- ಉಪಕರಣ ಹರಡುವಿಕೆ: lakeFS ಜೊತೆಗೆ ಐಸ್ಬರ್ಗ್ ಜೊತೆಗೆ ಕ್ಯಾಟಲಾಗ್ ಜೊತೆಗೆ ಆರ್ಕೆಸ್ಟ್ರೇಟರ್ ಜೊತೆಗೆ ಆರು ಗುಣಮಟ್ಟದ ಉಪಕರಣಗಳು. ಸಾಧ್ಯವಾದಲ್ಲೆಲ್ಲಾ ಕ್ರೋಢೀಕರಿಸಿ. ಲೋಗೋಗಳನ್ನು ಸಂಗ್ರಹಿಸುವ ಪ್ರಚೋದನೆಯನ್ನು ವಿರೋಧಿಸಿ.
ಒತ್ತಡವನ್ನು ಹಿಡಿದಿಟ್ಟುಕೊಳ್ಳಿ: ತಪ್ಪುಗಳನ್ನು ಹಿಡಿಯಲು ಸಾಕಷ್ಟು ಪ್ರಕ್ರಿಯೆಯನ್ನು ಬಳಸಿ, ಆದರೆ ಹೊಸ ತಪ್ಪುಗಳನ್ನು ಸೃಷ್ಟಿಸುವಷ್ಟು ಅಲ್ಲ.
ಅಂತಿಮ ಟೇಕ್: lakeFS ಯೋಗ್ಯವಾಗಿದೆಯೇ?
ನಿಮ್ಮ ಡೇಟಾ ಲೇಕ್, ಬ್ರಾಂಚ್ಗಳು, ಕಮಿಟ್ಗಳು ಮತ್ತು ರೋಲ್ಬ್ಯಾಕ್ಗಳೊಂದಿಗೆ ಪ್ರಬುದ್ಧ ವ್ಯವಸ್ಥೆಯಂತೆ ವರ್ತಿಸಬೇಕೆಂದು ನೀವು ಎಂದಾದರೂ ಬಯಸಿದರೆ, lakeFS ನಿಮ್ಮ ಸಮಯಕ್ಕೆ ಯೋಗ್ಯವಾಗಿದೆ. ಇದು AI ಚಿಮುಕಿಸುವ ಮೂಲಕ ಡೇಟಾ ಗುಣಮಟ್ಟವನ್ನು ಪರಿಹರಿಸಲು ಅಥವಾ ಅದರ ವಿನಿಮಯವನ್ನು ಬಜ್ವರ್ಡ್ಗಳ ಹಿಂದೆ ಮರೆಮಾಡಲು ಪ್ರಯತ್ನಿಸುವುದಿಲ್ಲ. ಇದು ಕಂಟ್ರೋಲ್ ಪ್ಲೇನ್ ಅನ್ನು ನೀಡುತ್ತದೆ, ಅದು ಸ್ಪಷ್ಟವಾದ ವಿಷಯಗಳನ್ನು ಮಾಡುತ್ತದೆ—ಪ್ರತ್ಯೇಕವಾಗಿ ಪರೀಕ್ಷಿಸುವುದು, ಅಟಾಮಿಕ್ ಡಿಪ್ಲಾಯ್ಗಳು, ಪುನರುತ್ಪಾದನೆ—ವಾಸ್ತವವಾಗಿ ದೊಡ್ಡ ಪ್ರಮಾಣದಲ್ಲಿ ಮಾಡಲು ಸಾಧ್ಯವಾಗುತ್ತದೆ.
ಸಣ್ಣ ವಿಮರ್ಶೆ: lakeFS ಡೇಟಾ ಆವೃತ್ತಿಯನ್ನು ಮುಖ್ಯವಾದ ರೀತಿಯಲ್ಲಿ ಕಡಿಮೆ ನೋವುಂಟು ಮಾಡುತ್ತದೆ ಮತ್ತು ನೀವು ನಿರ್ವಹಿಸಬಹುದಾದ ರೀತಿಯಲ್ಲಿ ಸ್ವಲ್ಪ ಹೆಚ್ಚು ಸಂಕೀರ್ಣಗೊಳಿಸುತ್ತದೆ. ಇದು ಚತುರತೆಗಾಗಿ ಚತುರತೆಯಲ್ಲ. ಇದು ನಿಮ್ಮ ಲೇಕ್ಗೆ ಸೀಟ್ಬೆಲ್ಟ್ಗಳು. ನೀವು ಅವುಗಳ ಬಗ್ಗೆ ಹೆಚ್ಚು ಯೋಚಿಸುವುದಿಲ್ಲ—ನೀವು ನಿಜವಾಗಿಯೂ, ನಿಜವಾಗಿಯೂ ಯೋಚಿಸುವವರೆಗೆ.
ಮತ್ತು ಅದೇ ಮುಖ್ಯ ವಿಷಯ.
lakeFS ವಿಮರ್ಶೆ: ನಟ್ಸ್-ಮತ್ತು-ಬೋಲ್ಟ್ಸ್ ಸಾರಾಂಶ
- ಶೂನ್ಯ-ನಕಲು ಶಾಖೆಗಳು; ಪುನರುತ್ಪಾದಿಸಬಹುದಾದ ಸ್ನ್ಯಾಪ್ಶಾಟ್ಗಳು; ಕ್ರಾಸ್-ಡೇಟಾಸೆಟ್ ಅಟಾಮಿಕ್ ವಿಲೀನಗಳು; ನೀತಿ ಜಾರಿಗಾಗಿ ಕೊಕ್ಕೆಗಳು; Spark/Trino ಜೊತೆಗೆ ಚೆನ್ನಾಗಿ ಕಾರ್ಯನಿರ್ವಹಿಸುತ್ತದೆ; ಶೇಖರಣಾ-ಸಮರ್ಥ; ಆಡಿಟ್-ಸ್ನೇಹಿ.
- ವಸ್ತು-ಮಟ್ಟದ ವಿಲೀನ ಸಂಘರ್ಷಗಳು; ಕಾರ್ಯಾಚರಣೆಯ ಮೇಲ್ಮೈ ವಿಸ್ತೀರ್ಣವನ್ನು ಸೇರಿಸಲಾಗಿದೆ; ಚಾಟಿ ವರ್ಕ್ಲೋಡ್ಗಳಿಗೆ ಸ್ವಲ್ಪ ಓವರ್ಹೆಡ್; ಸಾಂಸ್ಕೃತಿಕ ಬದಲಾವಣೆ ಅಗತ್ಯ.
- ಸಂಕೀರ್ಣ ಪೈಪ್ಲೈನ್ಗಳು, ML ತರಬೇತಿ ಅಥವಾ ನಿಯಂತ್ರಿತ ವಿಶ್ಲೇಷಣೆಗಳನ್ನು ನಡೆಸುವ ತಂಡಗಳು, ಅಲ್ಲಿ ರೋಲ್ಬ್ಯಾಕ್ ಮತ್ತು ಪುನರುತ್ಪಾದನೆ ಐಚ್ಛಿಕವಲ್ಲ.
- ಸತ್ತ-ಸರಳ ಪೈಪ್ಲೈನ್ಗಳನ್ನು ಹೊಂದಿರುವ ಸಣ್ಣ ತಂಡಗಳು ಅಥವಾ ಪ್ರಕ್ರಿಯೆಗೆ ಅಲರ್ಜಿಯಿರುವ ಸಂಸ್ಥೆಗಳು.
ಅದು ನಿಮ್ಮ ಪ್ರಪಂಚದಂತೆ ಧ್ವನಿಸಿದರೆ, lakeFS ಅದರಲ್ಲಿ ಒಂದು ಸ್ಥಾನವನ್ನು ಗಳಿಸುತ್ತದೆ.
FAQ