triton_get_started

    2024-12-09

    triton get started

    Triton 基于 python 的 DSL,面向 GPU 体系特点,自动分析和实施神经网路计算的分块,triton 既是语言,也是编译器。

    0 Triton 理解

    TVM、XLA 等框架能实现从模型到硬件的端到...

    Read More

    mlir

    2024-12-06

    如何上手 mlir

    • MLIR出现的背景:模型算法越来越复杂,计算量越来越大;
    • Dialect的演进:Dialect解决什么问题,需要什么基本模块,基本模块需要哪些扩展。

    1 算法模型发展带来的问题

    算法模型的发展...

    Read More

    esp32_cam_webcam

    2024-11-07

    ESP32-CAM使用webcam摄像头实时查看视频

    https://www.cnblogs.com/qiaoyurensheng/articles/esp32cam_001.html

    0 ESP32cam 介绍

    ESP32-CA...

    Read More

    deploy_model_on_raspi_with_ncnn

    2024-11-03

    使用NCNN在树莓派部署深度学习模型流程

    0 端侧部署深度学习模型流程

    一般来说,端侧深度学习模型部署可以分成如下几个阶段:

    • 模型训练,利用数据集训练模型,面向端侧设计模型时,需要考虑模型大小和计算量
    • 模...
    Read More

    raspi_deploy_csi_video_stream_with_mobilenet_v2

    2024-11-02

    树莓派5使用 MobileNet v2 实时推理相机视频

    Pytorch 对于树莓派提供了较好的支持,可以利用 Pytorch 在树莓派上进行试试推理,本文将尝试在树莓派5上使用 CPU 实时推理 MobileNet v2 分类模型。github 项目: https://github.com/Tao...

    Read More

    raspi5_m2_ssd

    2024-10-27

    树莓派5_PCIE_2_M2_SSD硬盘

    树莓派5支持了 mini PCIE 接口,默认工作在 PCIE gen2x1,也可以通过修改配置,使其工作在 PCIE gen3x1。通过 PCIE to M.2 HAT,可以使用 NVME 协议 M.2 接口的 SSD。

    0 硬件...

    Read More
    View: User: