奧推網

選單
科技

TensorFlow新文件釋出:新增CLP、DTensor...最先進的模型已就緒!

整理 | 彭慧中 責編 | 屠敏

出品 | CSDN(ID:CSDNnews)

近日,TensorFlow 官網上釋出了許多令人興奮的新文件,包括對模型修復、模型並行以及 TensorFlow Lite(https://www。tensorflow。org/lite)和 TensorFlow Model Garden(https://github。com/tensorflow/models)的更新。一起來看看你能收穫哪些新東西吧!

模型修復:反事實的Logit配對(CLP)

TensorFlow 的人工智慧團隊增加了一個新的模型修復技術,作為其模型修復庫的一部分。TensorFlow 模型修復庫提供了訓練時的技術來干預模型,如透過引入或改變模型目標來改變模型本身。最初推出的第一個模型修復技術:MinDiff,它使兩個資料片之間的效能差異最小。而此次的新技術是反事實Logit配對(CLP,Counterfactual Logit Pairing)。這項技術可以確保當一個例子中引用的敏感屬性被刪除或替換時,模型的預測不會發生變化。例如,在一個毒性分類器中,諸如 “我是一個男人 ”和 “我是一個女同性戀 ”這樣的例子應該是相等的,不會被歸類為毒性。

基本教程:https://www。tensorflow。org/responsible_ai/model_remediation/counterfactual/guide/counterfactual_usage_steps

Keras教程:https://www。tensorflow。org/responsible_ai/model_remediation/counterfactual/guide/counterfactual_keras

API參考:https://www。tensorflow。org/responsible_ai/model_remediation/api_docs/python/model_remediation/counterfactual

模型並行:DTensor

DTensor 提供了一個全域性程式設計模型,允許開發者在全球範圍內對張量進行操作,同時管理跨裝置的分佈。DTensor 透過一個名為“單程式多資料”(SPMD)擴充套件的程式,根據分片指令分配程式和張力器。

透過將整個應用程式與分片指令解耦,DTensor 可以在單個裝置、多個裝置、甚至多個客戶端上運行同一個應用程式,同時保留其全域性語義。如果你還記得 TensorFlow1。0 中的 Mesh TensorFlow,DTensor 可以解決 Mesh 能解決的同樣問題:訓練模型可能大於單核。

TensorFlow 2。9 會將一直在夜間構建的 DTensor 在 tensorflow。org 上公開。儘管 DTensor 是實驗性的,但歡迎你去嘗試。

DTensor 指南:https://www。tensorflow。org/guide/dtensor_overview

DTensor Keras 教程:https://www。tensorflow。org/tutorials/distribute/dtensor_keras_tutorial

API 參考:https://www。tensorflow。org/api_docs/python/tf/keras/dtensor

TensorFlow Lite的新功能

TensorFlow Lite 網站做了一些重大改動,包括入門文件。

構建開發者成長之路

首先,TensorFlow 現在按平臺(Android,iOS 和其他裝置)來給開發人員提供學習指南,使得開發人員能更容易在相應裝置上執行 TensorFlow 模型。TensorFlow 不僅為 Android 使用者增加了新的學習路線圖和快速入門指南,更早些時候,Google Play 服務中的 TensorFlow Lite 的新測試版也增加了一個指南。這些快速入門指南包括 Kotlin 和 Java 中的例子,並將例子程式碼升級到了 CameraX。

模型製作者

TensorFlow Lite Model Maker 庫簡化了使用自定義資料集訓練 TensorFlow Lite 模型的過程。它使用轉移學習來減少所需的訓練資料量並減少訓練時間,並預置了七個常見的任務,包括影象分類,物體檢測和文字搜尋。

TensorFlow 為文字搜尋增加了一個新的教程(https://www。tensorflow。org/lite/models/modify/model_maker/text_searcher)。這種型別的模型可以讓你接受一個文字查詢,並在文字資料集中搜索出最相關的條目,如網頁資料庫。在移動裝置上,你可以將其用於自動回覆或語義檔案搜尋。

此外,TensorFlow 還發布了完整的 Python 庫參考(https://www。tensorflow。org/lite/api_docs/python/tflite_model_maker)。

TensorFlow Lite 模型頁面

為用例找到正確的模型有時會令人抓狂。TensorFlow 寫了更多關於如何為你的任務選擇正確模型的指導(https://www。tensorflow。org/lite/models),以及做出這個決定需要考慮的因素。你也可以在這裡找到常見用例的模型連結。

TensorFlow Model Garden:最先進的模型準備就緒

TensorFlow Model Garden(https://www。tensorflow。org/guide/model_garden) 為視覺和自然語言處理(NLP)提供了許多最先進的機器學習(ML)模型的實現,以及工作流程工具,讓你在標準資料集上快速配置和執行這些模型。Model Garden涵蓋了視覺和文字任務,以及一個名為 Orbit 的靈活的訓練迴圈庫。模型帶有預建的配置來訓練到最先進的水平,以及許多有用的專門操作。

TensorFlow 將開始記錄你用 Model Garden 所做的各種各樣的偉大事業,由此開啟的第一站應該從瞭解 Model Garden 的概覽、可用模型的清單和影象分類教程開始。

Model Garden 的概覽:https://www。tensorflow。org/guide/model_garden

可用模型的清單:https://github。com/tensorflow/models/tree/master/official

影象分類教程:https://www。tensorflow。org/tutorials/images/classification_with_model_garden

其他令人興奮的新變化

此外,谷歌與 CSIRO 合作,利用 TensorFlow 程式碼庫加強對大堡礁上有害物種的監測工作。透過 Kaggle 競賽,機器學習開發者合作訓練 ML 模型,以識別使珊瑚礁生態系統退化的棘冠海星的爆發。以此來保護大堡礁的後代。

還有一個新變化是關於 TensorFlow 壓縮的新教程(https://www。tensorflow。org/tutorials/generative/data_compression),它使用神經網路進行有失真壓縮。這個例子使用類似自動編碼器的東西來壓縮和解壓 MNIST。

圖源TensorFlow官網

以上的更新中,有哪些驚豔到你了呢?歡迎各位一起交流~

參考資料:https://blog。tensorflow。org/2022/06/new-documentation-on-tensorfloworg。html