2025-03-26

Linux Live的記憶體(RAM)使用

 二十幾年前開始玩KNOPPIX這個很不同的Linux distribution後,就再也沒回去用正常安裝方式,KNOPPIX當時的壓縮法是用cloop,幾年之後各大distribution也開始採用Live system的方式來製作自家的CD/DVD ISO,絕大多數都是採用squashfs壓縮演算法,之後差不多squashfs主導了Live system。

 不過各家Live system用在initrd裡的系統導引法各有不同,Debian用「live」, Ubuntu用「casper」,已經走入歷史的CentOS用的也叫「live」但和Debian不同,Siduction用fll。各種live system有一個相同的開機參數「toram」, 它會把整個Live系統cp到RAM裡面,在開機完成後,我們可以把用來開機的USB隨身碟或光碟整個拿掉,因為系統已經不再依賴它了。

 但是Ubuntu用的casper在遇到「toram」參數後,會cp整支USB隨身碟全部進入RAM裡面, 這樣是有問題的,如果你的USB是64GB,而裡面裝了其他不是Live system的檔案,它會全部cp到RAM裡,萬一你的RAM只有16GB或更少,這樣就無法完成開機,因為RAM被塞滿了,而系統還沒完全cp進入RAM。

 使用Ubuntu而不要讓它cp所有USB裡的檔案進入RAM,必需自行手動拆解initrd好把casper裡面cp「整支USB」的那一段程式改成只cp「某個目錄」之下的檔案,再做成initrd,這樣才不會把RAM灌爆掉。其他Live system有的會有不同的參數(例如image_name)來指定只cp目錄下的特定檔案(squashfs壓縮的主系統檔)到RAM裡,像siduction用的fll會自行計算該檔案的大小,以便切割出為存放那個檔案大小的區域,也避免會浪費RAM。

 Live system有一項重要的參數"overlay", 在絕大多數initrd裡的規化都是採用50%, 極少數可以讓user自行指定,在我實際使用上發現50%其實不太符合需求,特別是在RAM少的電腦,例如RAM只有4G的系統下,overlay 50%的話就是只有2G能拿來當儲存體,存放開機完成後諸如 /etc, /home, /usr, /var等等,會相當不足!

 如果把"overlay"加大到90%的話,既使只有4G RAM的電腦也還算堪用,但這時就不宜使用"toram"的方式,而是保持系統放在儲存設備如USB隨身碟或電腦本身的硬碟。

至於開機有哪些參數可用,好像沒有共通的說明文件,只能自行拆解「initrd」看它裡面有什麼相關的參數可用,沒有的話就只能自行修改。

關於RAM少的電腦還有一個可以補救的方法就是使用zram, 而zram大概用50%就好,因為RAM已經很少,然而這50%可以存放大約三倍容量的資料,也就是說一台只有4G RAM的電腦,使用zram後的記憶體相當等於(4-2)+(2*3)=8G RAM,邏輯上多出來一倍,不過它要依賴CPU運算進行「壓縮/解壓縮」,或許會稍微延遲軟體的執行,但對於無法在物理上增加RAM的環境,還是相當有益處。

2025-02-27

MacBook與Linux kernel

 之前在一台退休的Intel MacBook跑Linux Live系統都只是用USB隨身碟開機進入使用,完全沒動到它的SSD,因為老機器RAM很少,不能用"toram"來載入,因此全程都要掛一支USB碟在機器上,其實有些不方便也不好看。

 後來這台MacBook的macOS已經無法再升級(其實硬要升級還是有辦法,只是已經對使用macOS沒什麼興趣)。個人在各種機器上使用Linux Live system已經二十幾年了,想到這台老MacBook的touchpad觸感不錯,重量相對的輕,電池續航力也有三個多小時,偶而帶它外出也蠻好用,現在把它的SSD割了10GB一小塊,打算用來塞入Live system(只是單純從USB copy到SSD, 不是執行正常的Linux install)。

 之前做的USB開機碟可以支援MacBook本身的Wifi以及Camera,更新到最後是Ubuntu 20.04.4,可以看到MacBook的SSD無誤,但有一陣子沒再用它,加上20.04有點年紀了,某些軟體無法換用新版本,於是這次改用Debian Trixie來開機,並且做好Wifi以及Camera(Mac叫做FacetimeHD)的支援,MacBook的硬體都能用到。

只是用它開機完成後,發現完全看不到MacBook已經割好的SSD!就是說用cat /proc/partitions時除了USB隨身碟之外完全看不到MacBook的SSD partition。變成使用的全程要一直依賴插一支支USB隨身碟。

 這時再降回去用Ubuntu 20.04.4開機,卻是可以在/proc/partitions看得到SSD,先懷疑Trixie包的initrd方式不同,於是拆除initrd裡的early,early2,再試還是一樣!看來不是initrd裡面的問題。

 搜尋網路上的相關Linux以及MacBook的資訊,但看到一堆都是講怎麼用apfs-fuse來mount,而我遇到的問題是完全看不到SSD,跟mount的問題無關。

 接著分別找了Arch,Debian,Ubuntu相關或衍生的distribuion的kernel/initrd (4.x或5.x以及6.x)來開機比對,發現只有5.x能看到SSD,而4.x跟6.x都看不到,真的是很奇怪的問題?

 又在網路上陸續找一些相關MacBook問題,最後找到一篇小小的文裡提到解決方法是在boot option加上intel_iommu=off

 加了這個option的Trixie 6.x kernel開機後果然能看到MacBook的SSD。

 那麼隨機找幾個不同kernel版本來看看它是怎麼定義"intel_iommu"的?

  • 4.9.0
    CONFIG_INTEL_IOMMU_DEFAULT_ON=y
  • 4.15.0-20
    CONFIG_INTEL_IOMMU_DEFAULT_ON is not set
  • 5.10.188
    CONFIG_INTEL_IOMMU_DEFAULT_OFF=y
  • 5.19.0-32
    CONFIG_INTEL_IOMMU_DEFAULT_ON is not set
  • 6.1.0-29
    CONFIG_INTEL_IOMMU_DEFAULT_OFF is not set
  • 6.11.5
    CONFIG_INTEL_IOMMU_DEFAULT_OFF is not set
  • 6.12.6-1
    CONFIG_INTEL_IOMMU_DEFAULT_ON=y
  • 6.13.2
    CONFIG_INTEL_IOMMU_DEFAULT_ON=y

 以上各版本kernel在不加任何boot option的情況下,只有5.10.188可以看得到MacBook SSD, 因為只有它是CONFIG_INTEL_IOMMU_DEFAULT_OFF=y 也就相當於在開機時加上 intel_iommu=off

 其它版本有幾個都是相當於
intel_iommu=on
或可以說,沒定義成off 就看不到SSD了。

 根據kernel文件提到「The Intel IOMMU driver allocates a virtual address per domain. Each PCIE device has its own domain.」
如果想進一步研究,可以參考以下文件:
http://www.intel.com/content/dam/www/public/us/en/documents/product-specifications/vt-directed-io-spec.pdf

低效款電腦執行AI distilled model

 前一篇提到被媒體大力炒作的Deepseek R1,因為手上電腦比較薄弱,所以拿它的distilled 8b model來跑,之後陸續再試的也都挑能力差不多的distilled model,像是tulu3:8b model, 感覺它明顯比deepseek R1:8b model來得聰明,如果說deepseek R1:8b是小學生,那tulu3 8b幾乎是高中生,因為問tulu3有關宗教的問題它也能清楚對答,不像前者常常胡說八道不知所云。

 接著又試了gemma2:9b model, 不曉得是不是多了1b ? 發現它比前兩種更聰明,對這三個能力差不多的distilled AI model 用同樣的「台灣台北市木柵以出產什麼聞名?」來提問,得到的回答是:

  1.  deepseek R1:8b -> 高品质木材(它聲稱自己會用正體中文,但所有回答都是簡體字)
  2.  tulu3:8b -> 優質竹炭
  3.  gemma2:9b -> 文山包種茶

看來多了1b的model確實有比較聰明一些!

2025-01-31

Deepseek R1與π小數點

 農歷新年這幾天,Deepseek成為新聞談話的主題,因為它把NVDA股價嚇了一大跳,原本只是到Youtube找找看有什麼評論資訊,其中看到包括微軟退休工程師David Plummer的看法,他提到如果Deepseek所宣稱的都是真的,那就像你在家裡就可以自製一台法拉利跑車,而且功能完全跟公司貨真品法拉利一模一樣,這當會嚇掉法拉利公司的股價。

 David又提到從它的model來看,它是從大model來training出小model,這個小model不必依賴強大的硬體就能在一般人家裡的電腦執行AI。

就像幾十年前個人電腦發展史一樣,PC出來的時候讓一般人不必購買像大公司大機構裡的大電腦,而可以擁有自己的個人電腦來執行各種軟體。但這樣的問題是,當大model裡有什麼bug,由它train出來的小model便繼承了先前的bug。

 另外也看了Jeff Geerling以及Aleksandar Haber的Youtube video,發現只要用Raspberry Pi也可以安裝小model的Deepseek在家裡玩,於是動手用一台比Pi的性能還高一些的舊Macmini(16GB RAM)裝來玩玩看。從https://www.ollama.com可以找到六個distill的版本,當然也有原本的R1(671b)。我的舊Macmini完全沒有NVidia GPU,所以不可能快,不過我想正確性應該相同。

先裝一個最低階1.5b來玩,發現它幾乎答非所問,於是再裝一個8b的,問它列出π小數點後面100位,結果它開始跟我聊天,說什麼一般人不會用到小數點後面100位,接著東扯西扯。我想這跟我的電腦沒有NVidia GPU應該無關吧?但它還是繼續東扯西扯就是不肯列出小數點後面100位,後來終於列了小數點後40位,不過我一看,從第21位數開始就是錯的!因為我記得小數點後面50位,可以百分之百確認從第21位之後就是錯的。

 我再孤狗一下「怎麼用python程式列出π小數點後面100位」,得出來的結果是只用了三行python code就能做到要列幾位數就列幾位數,但是為什麼8b model 的deepseek一直列不出來?

 另外在一篇網路文章https://www.kelacyber.com/blog/deepseek-r1-security-flaws/ 裡看到說他利用兩年前早就公開的技術,可以jailbreak Deepseek來得到想要的資料,也就是說別的AI裡早已補起來的漏洞,在Deepseek卻仍存在!而且能從Deepseek得到一些違法的知識,像是製造爆裂物等等。

 目前OpenAI也質疑Deepseek偷了他們的東西來用,這也讓人難免不想到中國各行各業過去幾十年來總是盜用、抄襲別人的智慧財,OpenAI指責Deepseek利用OpenAI的model來train Deepseek的model,也就像盜印圖書館的書來自己成立一間圖書館,這樣當然不必花大錢買書。但目前對於版權的法律還沒進步到AI這一塊,因此就算OpenAI能舉出Deepseek抄襲、盜用,這個問題目前仍是無解。

2024-12-28

Bluetooth跟network stack有關嗎?

最近拿到一台Asus UX303UB舊電腦, 原主人嫌它在Windows跑不動,我拿來跑Debian Trixie,週邊device都沒什麼問題,查一下BIOS是202版,未曾更新,再到Asus網站download新版302來升級。下載的BIOS是zip檔,解開之後cp到USB隨身碟上。

這台機器的好處是可以直接開機進BIOS,在這環境下升級BIOS,不必依賴其他程式在Windows環境裡進行升級。開機按F2進BIOS畫面,從flash的畫面找到USB碟上面的BIOS檔案,按下去,確認要升級,等BIOS升級完成後reboot進入Trixie,跑一個script來巡一遍系統週邊,發現竟然沒有Bluetooth!

用lsmod查一下bluetooth module已載入無誤,modinfo查它並不需要相關firmware,再用rfkill看竟然沒有bluetooth, systemctl查bluetooth有啟動,bluetoothctl查看是沒有controller!太奇怪了!原本有啊!

重開機進BIOS畫面找找看是不是有什麼bluetooth的設定?找了半天並沒有,倒是有一個Network stack的設定項目,發現它是disabled,之前看到是enabled,所以把它改回enable,包括ipv4、ipv6,然後重開機進Trixie,有bluetooth了!

試試看連接Android手機傳送檔案、藍牙喇叭,都可以正常工作。

google查了一下好像找不到bluetooth跟network stack有相關的資訊?

2024-11-29

讓美國再次偉大

上個月川普當選下一任美國總統了,之前他說「要讓美國再次偉大」,就我從媒體上看到的川普,他所謂的偉大只不過是「賺錢」罷了,這和美國的真正偉大顯然完全不同。

美國之所以偉大,是在七十幾年前出錢出力,幫歐洲那些不中用的國家打仗,使得今天的歐洲不是在希特勒納粹德國的統治下。美國的偉大,是在七十幾年前不只在歐洲出錢出人,在亞洲一樣的出錢出人,幫的不中用的亞洲國家拋頭顱灑熱血,使得今天的亞洲不是在皇軍的大日本帝國統治下。要不是美國的偉大,哪有今天的歐洲、亞洲?

你可以說那是美國為了自身利益才出錢出兵,但是那不就是你們無能的歐洲國家、你們無能的亞洲國家免於被征服併吞的原因嗎?別再說什麼英勇抗戰的屁話了,沒有美軍的血汗,你們有今天的日子嗎?

可惜的是美國在過去三十年間只想賺錢,姑息養奸的果實便是讓邪惡國家利用廉價的勞工賺了大錢。美國曾經一相情願的以為那個邪惡又窮困的國家有了錢之後,就能改邪歸正,能成為民主自由的國家。但是遲至這幾年美國才大夢初醒,原來邪惡國家有了錢之後,變得更加邪惡,繼承當年大日本帝國的遺志,開始東征西伐,準備引來再一次的世界大戰。

商人本色的川普有什麼能耐讓美國偉大呢?看來似乎沒有!只想關起門來賺大錢,絕對無法讓美國偉大,川普應該仔細回顧七十幾年前的美國,有那些流血流潭的先烈的美國才叫做偉大!

2024-09-30

AC75,風力推進的極限?

最近看了America's Cup直播,赫然發現單靠風力推動的帆船,竟然速度可以達到四十幾knots(節,1knot=1.86km/h),這應該是現代科技的極限了吧?

這種帆船叫做AC75,是2018年出現的新規格,它的長度為75英呎,再查了一下,另外還有AC40,也就是船身長度40呎,還有一種叫做LEQ12,就是船身小於或等於12呎。船身做到跟F1賽車類似,風阻很小,AC75為八個乘員,身體都藏在船身裡,只有頭部露出船身,以減少風阻,而他們不斷像騎腳踏車那樣在踩的,應該是提供控制帆以及水翼的動力(我猜測)。

AC75這一類的應該叫做水翼帆船,它不是使用引擎動力,而是單靠風力。它有三支水翼,左、右各一,以及尾翼。左、右的水翼可以視需要抬出水面,除了更減少水中的阻力之外,也能提供平衡,後面的尾翼跟飛機尾巴的水平尾翼相似。

水翼構造像飛機翼一樣,有flap可以調整攻角,當船達到某種速度,水翼會把船身推出水面,只利用在水下的翼就能行進,完全沒有船身與水的阻力,因此能高速航行,AC75的極速是50knots(時速93公里!),而AC40的極速也能達到45knots。(一般貨櫃輪最快大約22knots,我國沱江級軍艦最快航速約44knots)

更特別是它的主帆,傳統上帆船的帆就是一層布(或其他軟式材質),但是AC75是以twin-skin的方式來建構主帆,兩層帆就類似豆莢,像荷仁豆的豆莢,中間有一個空間,如果從桅桿正上方看下來,主帆的剖面圖跟飛機翼的剖面圖相似,也就是說它可以產生跟機翼一樣的流體力學,讓氣流的方向跟浮力(推力)的方向成為大約90度。飛機的氣流是從機首來,浮力是從機翼下方,互差90度,AC75氣流從船首來,推力卻從船左、右側來,也是互差90度。(這是我的理解)

這樣當AC75在逆風需要做Z字型前進時,船帆不必轉到大攻角來取得風力,連帶船身也不必切到太大的角度就能保持向目標前進,這時船速依然能維持在三十幾knots,任何傳統帆船都做不到的事。

在37屆America's Cup中(https://www.americascup.com/)看到參賽國家分別是紐西蘭、英國、瑞士、義大利、美國、法國,其中很驚訝的有瑞士,它明明是個四面環山的內陸國家啊!怎麼會有帆船運動?

2024-08-28

CEO會是全公司最害怕、抗拒AI的人

 這兩年AI炒熱起來,有人用ChatGPT來寫程式,於是寫程式的工程式開始害怕。曾經有某個CEO說五年內寫程式的工作就可以用AI取代,於是programmer人人自危。

 其實更該被AI取代的職位應該是CEO!

 CEO的職責不必懂程式,而是跟據各種情報以及資訊來下決定,以推展公司業務、提高公司獲利,讓股東賺大錢,但事實上CEO可能會下了錯誤的判斷,其中原因除了專業是否足夠?還包括自己的利益、自己的情緒、私生活等等干擾,最終下了錯誤或不應該的決策。

 一個CEO決策的錯誤,比數百個programmer的錯誤所導致公司的損失更加巨大,更不用說捲款潛逃的CEO了。

 一個造成公司虧損的CEO,卻領著比幾百、幾千個programmer加總起來還要高幾倍的薪水!

 如果用AI來當CEO,不必支付這一份在公司裡『絕對高的薪水』,更不用分股票,只要對AI CEO提出(輸入)各種條件、資料,透過AI來摸擬推演各種可能狀況,AI CEO能快速、無私、客觀、公正的做出最有利公司的判斷、下決定,相信這是絕大多數投資人所信賴和支持的。

  1. AI的運算比人腦快太多,能推演的狀況比人腦還多
  2. AI的判斷不帶個人私利、情緒、偏見、人情
  3. AI任職CEO不必領全公司最高的薪水
  4. AI CEO可以24小時,週休零日
  5. AI CEO不會有大房、二房、三房、小三
  6. AI CEO不會把公司員工當韭菜割

 這麼好的CEO不請來公司上班對嗎?

 如果說五年內programmer的工作會被AI取代,相同的,五年內CEO的工作也應該被AI取代。