武漢小廠過了直接去上班，干了兩天現(xiàn)在打算跑路，原因不太好說，倒不是工作累，主要是他們這業(yè)務(wù)的問題閱文筆試區(qū)塊鏈小廠口頭 oc***約一面拓維一面

#數(shù)據(jù)人的面試交流地##實(shí)習(xí)進(jìn)度記錄##數(shù)據(jù)人的面試交流地#作業(yè)幫時(shí)間是隨機(jī)的，今天下午測的。作業(yè)幫是10道選擇題加2到算法題：選擇題：考了數(shù)據(jù)結(jié)構(gòu)排序二叉樹，linux命令：awk '$NF' test 這里的test是一個(gè)有多行數(shù)據(jù)的文件，這命令是輸出該文件末行的內(nèi)容。還考了mapreduce優(yōu)化數(shù)據(jù)傾斜的辦法這里我好像選錯(cuò)了有兩個(gè)選項(xiàng)一個(gè)是把count(distinct ) 替換為sum()group by 還有是將小文件先保存到內(nèi)存中這兩個(gè)好像是對(duì)的都可以優(yōu)化數(shù)據(jù)傾斜此問題。還考了Flink的一些特性不過我還沒學(xué)過flink，還考了kafka的高性能和低性能的一些問題，這我也是一臉懵。還考了六個(gè)盤的漢洛塔要移動(dòng)幾次才通過。然后是算法題，第一個(gè)是簡單的二分查找，不過我只通過了94%，后面看估計(jì)是我對(duì)左右指針移動(dòng)還是有點(diǎn)問題。第二個(gè)是leetcode32題，最長有效括號(hào)，可惜了我兩個(gè)月前還寫過但是還是沒寫對(duì)，只通過了63%。也不知道能不能過。閱文（寄了，以為是8.30考沒想到是8.30結(jié)束結(jié)果只寫了20分鐘）：這好像是前面是單選題，中間是不定項(xiàng)，后面是問答題單選題：考了hive內(nèi)置函數(shù)，考了hive與spark的對(duì)比，hadoop節(jié)點(diǎn)默認(rèn)備份是多少~（還考了斗破蒼穹的主角是誰雖然我沒看過印像中好像叫蕭炎）不定項(xiàng)：有mysql中delete，drop和truncate這三者的區(qū)別特點(diǎn)（我對(duì)truncate完全沒印象），還考了flink的一些知識(shí)。問答題：第一個(gè)是mapredce工作流程這個(gè)還好，第二個(gè)是如何解決spark數(shù)據(jù)傾斜的方法。這里時(shí)間不夠了我一點(diǎn)沒寫，也沒多少印象。這里我現(xiàn)在寫一下加深點(diǎn)印象1.可以增加隨機(jī)前綴或后綴：來打散數(shù)據(jù)分布，在后繼計(jì)算中去除前后綴從而負(fù)載均衡2.廣播小表，如果是原因是小表與大表join可以將小表廣播到每個(gè)節(jié)點(diǎn)，避免產(chǎn)生數(shù)據(jù)傾斜。3.salting方法：為傾斜數(shù)據(jù)填加鹽值，打散傾斜數(shù)據(jù)4.分區(qū)策略調(diào)整：通過自定義分區(qū)器或者合理選擇內(nèi)置分區(qū)器來均勻分布數(shù)據(jù)5.增大并行度：針對(duì)只有少量數(shù)據(jù)造成的傾斜任務(wù)，增加并行度可以更快地處理這些小任務(wù)6.數(shù)據(jù)預(yù)處理：合并一些小文件，fliter操作等第三四個(gè)就是寫sql語句，第三個(gè)挺簡單的就是第四題來不及看了。ok就是這些了，預(yù)祝大家都能找到自己想要的工作實(shí)現(xiàn)，我還是繼續(xù)去沉淀去了，這一個(gè)月也不知道自己在忙些啥好像就是一直在刷算法題和sql題，八股都沒怎么看，對(duì)組件的掌握還是太淺了。#實(shí)習(xí)##數(shù)據(jù)開發(fā)工程師實(shí)習(xí)##暑期實(shí)習(xí)加油##?？虯I配圖神器#

主要還是不知道堅(jiān)定走哪個(gè)方向好，感覺就在兩手抓數(shù)據(jù)方向，目前只有美的的數(shù)據(jù)挖掘給過面試，二面掛運(yùn)籌優(yōu)化方向，只有美團(tuán)的無人機(jī)規(guī)劃調(diào)度工程師給過面試，二面掛現(xiàn)在什么消息都沒有，都沒推進(jìn)了#實(shí)習(xí)進(jìn)度記錄##暑期實(shí)習(xí)##0offer互助地##0offer是寒冬太冷還是我太菜#

很痛苦地寫了兩小時(shí)，主要困難是項(xiàng)目包裝，沒做什么項(xiàng)目都是課程作業(yè)，還有一個(gè)硬件開發(fā)的項(xiàng)目，感覺和產(chǎn)品不太對(duì)口就沒寫，聽ai的建議寫了自媒體經(jīng)歷上去，要是都不寫真的什么都沒有了??還沒敢開始投，有什么需要修改的嗎