#面試問題記錄# 面試螞蟻金服到了技術(shù)3面，但沒有hr面了問題如下；1項(xiàng)目介紹一下2 干的數(shù)據(jù)開發(fā)技術(shù)組件和模型以及數(shù)據(jù)治理說一下3離線數(shù)倉(cāng)怎么確保任務(wù)及時(shí)性，任務(wù)產(chǎn)生了dqc告警怎么解決4 干財(cái)務(wù)工作模型該怎么設(shè)計(jì)5數(shù)據(jù)治理該怎么治理，比如模型治理，運(yùn)行效率，和任務(wù)合理性以及跨層很多問題6 實(shí)時(shí)任務(wù)一旦延遲該怎么快速解決延遲，如何確保數(shù)據(jù)不重復(fù)，不丟數(shù)據(jù)，如何知道延遲7flink任務(wù)優(yōu)化可以從哪些方面入手，對(duì)于效率問題該怎么操作8kafka分區(qū)和寫入該怎么設(shè)計(jì)，怎么能確保下游消費(fèi)數(shù)據(jù)不延遲，不丟數(shù)據(jù)9 實(shí)時(shí)數(shù)倉(cāng)如何做到指標(biāo)實(shí)時(shí)，并且數(shù)據(jù)不會(huì)算錯(cuò)，10對(duì)于olap引擎知道哪一些，哪個(gè)更好，后續(xù)推薦用哪一款來(lái)批流一體#?？虯I配圖神器#

大家好，我是“蔣點(diǎn)數(shù)分”，多年以來(lái)一直從事數(shù)據(jù)分析工作。從今天開始，與大家持續(xù)分享關(guān)于數(shù)據(jù)分析的學(xué)習(xí)內(nèi)容。本文是第 6 篇，也是【SQL 周周練】系列的第 5 篇。該系列是挑選或自創(chuàng)具有一些難度的 SQL 題目，一周至少更新一篇。后續(xù)創(chuàng)作的內(nèi)容，初步規(guī)劃的方向包括：后續(xù)內(nèi)容規(guī)劃1.利用 Streamlit 實(shí)現(xiàn) Hive 元數(shù)據(jù)展示、SQL 編輯器、 結(jié)合Docker 沙箱實(shí)現(xiàn)數(shù)據(jù)分析 Agent2.時(shí)間序列異常識(shí)別、異動(dòng)歸因算法3.留存率擬合、預(yù)測(cè)、建模4.學(xué)習(xí) AB 實(shí)驗(yàn)、復(fù)雜實(shí)驗(yàn)設(shè)計(jì)等5.自動(dòng)化機(jī)器學(xué)習(xí)、自動(dòng)化特征工程6.因果推斷學(xué)習(xí)7. ……歡迎關(guān)注，一起學(xué)習(xí)。第 5 期題目題目來(lái)源：...

#數(shù)據(jù)人的面試交流地##實(shí)習(xí)進(jìn)度記錄##數(shù)據(jù)人的面試交流地#作業(yè)幫時(shí)間是隨機(jī)的，今天下午測(cè)的。作業(yè)幫是10道選擇題加2到算法題：選擇題：考了數(shù)據(jù)結(jié)構(gòu)排序二叉樹，linux命令：awk '$NF' test 這里的test是一個(gè)有多行數(shù)據(jù)的文件，這命令是輸出該文件末行的內(nèi)容。還考了mapreduce優(yōu)化數(shù)據(jù)傾斜的辦法這里我好像選錯(cuò)了有兩個(gè)選項(xiàng)一個(gè)是把count(distinct ) 替換為sum()group by 還有是將小文件先保存到內(nèi)存中這兩個(gè)好像是對(duì)的都可以優(yōu)化數(shù)據(jù)傾斜此問題。還考了Flink的一些特性不過我還沒學(xué)過flink，還考了kafka的高性能和低性能的一些問題，這我也是一臉懵。還考了六個(gè)盤的漢洛塔要移動(dòng)幾次才通過。然后是算法題，第一個(gè)是簡(jiǎn)單的二分查找，不過我只通過了94%，后面看估計(jì)是我對(duì)左右指針移動(dòng)還是有點(diǎn)問題。第二個(gè)是leetcode32題，最長(zhǎng)有效括號(hào)，可惜了我兩個(gè)月前還寫過但是還是沒寫對(duì)，只通過了63%。也不知道能不能過。閱文（寄了，以為是8.30考沒想到是8.30結(jié)束結(jié)果只寫了20分鐘）：這好像是前面是單選題，中間是不定項(xiàng)，后面是問答題單選題：考了hive內(nèi)置函數(shù)，考了hive與spark的對(duì)比，hadoop節(jié)點(diǎn)默認(rèn)備份是多少~（還考了斗破蒼穹的主角是誰(shuí)雖然我沒看過印像中好像叫蕭炎）不定項(xiàng)：有mysql中delete，drop和truncate這三者的區(qū)別特點(diǎn)（我對(duì)truncate完全沒印象），還考了flink的一些知識(shí)。問答題：第一個(gè)是mapredce工作流程這個(gè)還好，第二個(gè)是如何解決spark數(shù)據(jù)傾斜的方法。這里時(shí)間不夠了我一點(diǎn)沒寫，也沒多少印象。這里我現(xiàn)在寫一下加深點(diǎn)印象1.可以增加隨機(jī)前綴或后綴：來(lái)打散數(shù)據(jù)分布，在后繼計(jì)算中去除前后綴從而負(fù)載均衡2.廣播小表，如果是原因是小表與大表join可以將小表廣播到每個(gè)節(jié)點(diǎn)，避免產(chǎn)生數(shù)據(jù)傾斜。3.salting方法：為傾斜數(shù)據(jù)填加鹽值，打散傾斜數(shù)據(jù)4.分區(qū)策略調(diào)整：通過自定義分區(qū)器或者合理選擇內(nèi)置分區(qū)器來(lái)均勻分布數(shù)據(jù)5.增大并行度：針對(duì)只有少量數(shù)據(jù)造成的傾斜任務(wù)，增加并行度可以更快地處理這些小任務(wù)6.數(shù)據(jù)預(yù)處理：合并一些小文件，fliter操作等第三四個(gè)就是寫sql語(yǔ)句，第三個(gè)挺簡(jiǎn)單的就是第四題來(lái)不及看了。ok就是這些了，預(yù)祝大家都能找到自己想要的工作實(shí)現(xiàn)，我還是繼續(xù)去沉淀去了，這一個(gè)月也不知道自己在忙些啥好像就是一直在刷算法題和sql題，八股都沒怎么看，對(duì)組件的掌握還是太淺了。#實(shí)習(xí)##數(shù)據(jù)開發(fā)工程師實(shí)習(xí)##暑期實(shí)習(xí)加油##?？虯I配圖神器#

1. 基本情況方向：數(shù)據(jù)工程，時(shí)間：40分鐘結(jié)束、16:00開始，無(wú)手撕，多場(chǎng)景2. 自我介紹3. 一些能夠回憶起來(lái)的（或許有不正確的地方）：（1）提問R：你這個(gè)項(xiàng)目是課程作業(yè)還是什么？R：那你說說Hive和ClickHouseR：你談到了OLAP，那和OLTP有啥區(qū)別？R：沒了？ClickHouse適合那種場(chǎng)景？R：可以用作實(shí)時(shí)數(shù)倉(cāng)嗎？R：課程中有數(shù)據(jù)庫(kù)相關(guān)的嗎？只有數(shù)據(jù)結(jié)構(gòu)與算法？R：MySQL系統(tǒng)學(xué)習(xí)過嗎？R：數(shù)據(jù)怎么導(dǎo)入到ClickHouse的？R：直接到ClickHouse？R：數(shù)倉(cāng)分層？四層講講。R：那為什么要分層呢？DWS已經(jīng)差不多了為什么還需要ADS呢？R：場(chǎng)景題：在你的表上新...