Devfreq学习笔记

一、简介

当今的复杂SoC由多个子模块协同工作组成。在执行各种用例的操作系统中，并非SoC中的所有模块都需要始终保持最高性能。为方便起见，将SoC中的子模块分组为域，从而允许某些域以较低的电压和频率运行，而其他域以较高的电压/频率对运行。

对于这些设备支持的频率和电压对，我们称之为OPP（Operating Performance Point）。对于具有OPP功能的非CPU设备，本文称之为OPP device，需要通过devfreq进行动态的调频调压。

devfreq：Generic Dynamic Voltage and Frequency Scaling (DVFS) Framework for Non-CPU Devices。是由三星电子MyungJoo Ham <myungjoo.ham@samsung.com>，提交到社区。原理和/deivers/cpufreq 非常近似。但是cpufreq驱动并不允许多个设备来注册，而且也不适合不同的设备具有不同的governor。devfreq则支持多个设备，并且允许每个设备有自己对应的governor。

如下图，devfreq framework是功耗子系统的一部分，与cpufreq，cpuidle，powermanager相互配合协作，已达到节省系统功耗的目的。

 

二、核心数据结构

devfreq framework作为Linux Kernel一个子系统，需要为user space和其他子系统提供接口，已完成功能交互。本章从Kernel空间和user空间的角度，介绍devfreq framework的相关接口。

(1) devfreq_dev_profile 结构体，是OPP device注册到devfreq framework的数据结构，主要包含OPP设备的频率相关信息和相关的回调函数，是devfreq framework和OPP device driver的交互接口。类似设备驱动模型，将OPP device driver对devfreq使用，简化为devfreq profile结构体的填充。

struct devfreq_dev_profile {
    /*devfreq初始化频率*/
    unsigned long initial_freq;
    /*governor轮询的时间间隔，单位ms，0禁止*/
    unsigned int polling_ms;

    /*devfreq framework设置OPP device频率的回掉函数*/
    int (*target)(struct device *dev, unsigned long *freq, u32 flags);
    /*devfreq framework获取OPP device负载状态的回掉函数*/
    int (*get_dev_status)(struct device *dev, struct devfreq_dev_status *stat);
    /*devfreq framework获取OPP device当前频率的回掉函数*/
    int (*get_cur_freq)(struct device *dev, unsigned long *freq);
    /*devfreq framework退出时对OPP device的回掉函数*/
    void (*exit)(struct device *dev);

    /*OPP device支持的频率表*/
    unsigned long *freq_table;
    /*freq_table表的大小*/
    unsigned int max_state;
};

(2) devfreq_governor 结构体，是governor注册到devfreq framework的数据结构，主要包含governor的相关属性和具体的函数实现。是devfreq framework和governor交互接口。

struct devfreq_governor {
    struct list_head node;

    /*该governor的名称*/
    const char name[DEVFREQ_NAME_LEN];
    /*governor是否可以切换的标志，若为1表示不可切换*/
    const unsigned int immutable;
    /*governor注册到devfreq framework的算法实现函数，返回调整后的频率*/
    int (*get_target_freq)(struct devfreq *this, unsigned long *freq);
    /*governor注册到devfreq framework的event处理函数，处理start,stop,suspend,resume等event*/
    int (*event_handler)(struct devfreq *devfreq, unsigned int event, void *data);
};

(3) devfreq 设备结构体，这个是devfreq设备的核心数据结构。将上述的OPP device driver的 devfreq_dev_profile 和governor的 devfreq_governor 连接到一起，并通过设备驱动模型中device类，为user空间提供接口。

struct devfreq {
    struct list_head node;

    struct mutex lock;
    struct mutex event_lock;
    /*其class属于devfreq_class，父节点指向使用devfreq的device*/
    struct device dev;
    /*OPP device注册到devfreq framework的配置信息*/
    struct devfreq_dev_profile *profile;
    /*governor注册到devfreq framework的配置信息*/
    const struct devfreq_governor *governor;
    /*devfreq的governor的名字*/
    char governor_name[DEVFREQ_NAME_LEN];
    struct notifier_block nb;
    /*负载监控使用的delayed_work*/
    struct delayed_work work;

    unsigned long previous_freq;
    struct devfreq_dev_status last_status;
    /*OPP device传递给governor的私有数据*/
    void *data; /* private data for governors */

    ......
};

 

三、工作流程

本章节主要介绍devfreq framework在系统中的工作流程，从初始化，频率调整，退出机制几个方便介绍devfreq framework的运行机制和函数调用逻辑。

1.初始化

(1) evfreq framework 初始化。

(2) governor初始化，然后add_governor。//int devfreq_add_governor(struct devfreq_governor *governor)。

(3) OPP device创建devfreq，然后add_device。//struct devfreq *devfreq_add_device(struct device *dev, struct devfreq_dev_profile *profile, const char *governor_name, void *data)

(1) evfreq framework 初始化

逻辑非常简单清晰，主要完成以下的任务，然后为governor的初始化和OPP device 创建devfreq device做好准备。代码实现：kernel/drivers/devfreq/

a.创建devfreq设备类。

b.创建工作队列，用于负载监控work调用运行。

c.加入到subsys_initcall，系统启动时初始化。

static int __init devfreq_init(void) //drivers/devfreq/devfreq.c
{
    /*创建devfreq设备类*/
    devfreq_class = class_create(THIS_MODULE, "devfreq");
    /*创建名为"devfreq"的工作队列，用于负载监控work的调度运行*/
    devfreq_wq = create_freezable_workqueue("devfreq_wq");

    devfreq_class->dev_groups = devfreq_groups;
}
subsys_initcall(devfreq_init);

 

(2) governors初始化

系统中可支持多个governors，在系统启动时进行初始化，并注册到devfreq framework中， 后续OPP device创建devfreq设备，会根据governor名字从已经初始化好的governor 列表中，查找对应的governor实例。

a.填充governor的结构体，不同类型的governor，会有不同的实现。

b.将governor加入到devfreq framework的governor列表中。

c.加入到subsys_initcall，系统启动时初始化。

下面这个是以 simple_ondemand 这个governor来介绍governor的初始化和注册。

static struct devfreq_governor devfreq_simple_ondemand = {
    .name = DEVFREQ_GOV_SIMPLE_ONDEMAND, //"simple_ondemand"
    .get_target_freq = devfreq_simple_ondemand_func,
    .event_handler = devfreq_simple_ondemand_handler,
};

static int __init devfreq_simple_ondemand_init(void)
{
    return devfreq_add_governor(&devfreq_simple_ondemand);
}
subsys_initcall(devfreq_simple_ondemand_init);

目前系统默认支持下面几种governor：

simple_ondemand：按需调整模式；根据系统负载动态频率，平衡性能和功耗

Performance：性能优先模式，调整到最大频率

Powersave：功耗优先模式，调整到最小频率

Userspace：用户指定模式，调整到用户设置的频率.

Passive：被动模式，使用设备指定方法做调整或跟随父devfreq设备的governor

可以根据自己的设备特性，通过填充 devfreq_governor 结构体和实现 get_target_freq 方法和 event_handler，完成的自己的governor。devfreq framework的架构设计对governor扩展，支持极好。

 

(3) OPP device通过devfreq framework创建devfreq device。

以UFS设备为例，介绍OPP device用devfreq framework来添加devfreq设备的过程。代码位置：kernel/drivers/scsi/ufs/ufshcd.c

首先，OPP device driver通过devfreq framework创建devfreq设备。

a.将ufs设备的core clk的添加到opp子系统中，devfreq_add_device 函数中，会从opp子系统中获取clk信息。

b.将OPP device相关频率信息和回调函数，并填充devfreq profile数据结构。

c.调用devfreq_add_device函数，将devfreq profile数据结构，governor名字，添加到devfreq framework。

static int ufshcd_devfreq_init(struct ufs_hba *hba)
{
    struct devfreq *devfreq;
    struct ufs_clk_scaling *scaling = &hba->clk_scaling;
    ......

    /*将可用最大最小频率添加到OPP子系统*/
    clki = list_first_entry(clk_list, struct ufs_clk_info, list);
    dev_pm_opp_add(hba->dev, clki->min_freq, 0);
    dev_pm_opp_add(hba->dev, clki->max_freq, 0);

    /*初始化devfreq配置结构体*/
    scaling->profile.polling_ms = 60;
    scaling->profile.target = ufshcd_devfreq_target;
    scaling->profile.get_dev_status = ufshcd_devfreq_get_dev_status;

    /*通过devfreq_add_device函数，配置文件和governor，创建devfreq设备*/
    devfreq = devfreq_add_device(hba->dev, &scaling->profile, DEVFREQ_GOV_SIMPLE_ONDEMAND, gov_data);

    ......
}

devfreq_add_device 创建devfreq设备的流程如下：

a. 根据传入的governor名字，从governor列表中，获取对应的governor实例。

b.发送 DEVFREQ_GOV_START 到governor，开始管理OPP device的频率。

struct devfreq *devfreq_add_device(struct device *dev, struct devfreq_dev_profile *profile, const char *governor_name, void *data)
{
    ......
    /*通过governor的名字找到governor实例*/
    governor = find_devfreq_governor(devfreq->governor_name);
    ......
    /*发送DEVFREQ_GOV_START事件，governor开始管理频率*/
    devfreq->governor->event_handler(devfreq, DEVFREQ_GOV_START, NULL);
    ......
}

 

2. 频率调整过程

如上图所示，频率调整过程中，分工非常明确，devfreq framework是大管家负责监控程序的运行，governor提供管理算法，OPP device提供自身的负载状态和频率设置的方法实现。系统中有不同的governor，而且不同的governor有不同的管理算法，但是频率调整过程是一样的。本小节，以 simple_ondemand governor 为例，讲述governor的管理过程。

(1) governor 的 event_handler 收到 DEVFREQ_GOV_START 事件，调用对应的函数，调度工作队列，运行负载监控程序。

static int devfreq_simple_ondemand_handler(struct devfreq *devfreq, unsigned int event, void *data)
{
    switch (event) {
    case DEVFREQ_GOV_START:
        devfreq_monitor_start(devfreq); /*对应的DEVFREQ_GOV_START事件的处理函数*/
        break;

    case DEVFREQ_GOV_STOP:
        devfreq_monitor_stop(devfreq);
        break;

    case DEVFREQ_GOV_INTERVAL:
        devfreq_interval_update(devfreq, (unsigned int *)data);
        break;

    case DEVFREQ_GOV_SUSPEND:
        devfreq_monitor_suspend(devfreq);
        break;

    case DEVFREQ_GOV_RESUME:
        devfreq_monitor_resume(devfreq);
        break;

    default:
        break;
    }

    return 0;
}

void devfreq_monitor_start(struct devfreq *devfreq)
{
    /*开始提交“内核工作线程”监控负载状态*/
    INIT_DEFERRABLE_WORK(&devfreq->work, devfreq_monitor);
    if (devfreq->profile->polling_ms) {
        queue_delayed_work(devfreq_wq, &devfreq->work, msecs_to_jiffies(devfreq->profile->polling_ms));
    }
}

 

(2) 负载监控程序。

a.调用 governor 的 get_target_freq 方法，获取下一次的调频目标值。

b.调用OPP device注册到 devfreq framework 的target函数，设置新的频率信息。

c.调度延迟工作队列，延迟OPP device 设置的轮询间隔后，再次运行。

int update_devfreq(struct devfreq *devfreq)
{
    /*获取要调频到的结果频率*/
    devfreq->governor->get_target_freq(devfreq, &freq);

    /*在调频前后都有通知发出来*/
    devfreq_notify_transition(devfreq, &freqs, DEVFREQ_PRECHANGE);
    /*调用OPP devices的target函数设置目标频率*/
    devfreq->profile->target(devfreq->dev.parent, &freq, flags);
    devfreq_notify_transition(devfreq, &freqs, DEVFREQ_POSTCHANGE);
}

static void devfreq_monitor(struct work_struct *work)
{

    err = update_devfreq(devfreq);

    /*进行以polling_ms为周期的周期监控*/
    queue_delayed_work(devfreq_wq, &devfreq->work, msecs_to_jiffies(devfreq->profile->polling_ms));
}

 

(3) governor 的 get_target_freq 方法，调用opp device注册到devfreq framework的回调函数，获取当前device负载信息，根据算法，返回调整频率。

static inline int devfreq_update_stats(struct devfreq *df)
{
    if (df->profile->get_dev_status)
        /*调用OPP device注册到devfreq framework的回调函数，获取负载状态*/
        return df->profile->get_dev_status(df->dev.parent, &df->last_status);
    else
        return -ENODEV;
}

static int devfreq_simple_ondemand_func(struct devfreq *df, unsigned long *freq) /*.get_target_freq = devfreq_simple_ondemand_func*/
{
    /*获取设备当前状态*/
    err = devfreq_update_stats(df);
    
    stat = &df->last_status;

    /*然后使用stat与df->data指定的阈值比较，进行目标频率的设定*/
    if (data && data->simple_scaling) { 
        if (stat->busy_time * 100 > stat->total_time * dfso_upthreshold) /*如果忙的时间大于70%,就给最大频率*/
            *freq = max;
        else if (stat->busy_time * 100 < stat->total_time * (dfso_upthreshold - dfso_downdifferential)) /*如果忙的时间小于5%,就给最小频率*/
            *freq = min;
        else
            *freq = df->previous_freq; /*否则还是之前频率*/
        return 0;
    }

}

 

3. 删除devfreq设备

(1) 直接调用device_unregister函数注销devfreq设备。

int devfreq_remove_device(struct devfreq *devfreq)
{
    ...
    device_unregister(&devfreq->dev);
    ...
}

(2) device_unregister 注销过程中会调用 devfreq_dev_release 函数，完成下面的事务。

a.发送 DEVFREQ_GOV_STOP event，governor停止运行；

b.回调OPP device注册到devfreq framework的exit函数；

c.释放devfreq device申请的资源。

static void devfreq_dev_release(struct device *dev) //devfreq_add_device()中初始化赋值的
{
    /*如果governor存在，发送DEVFREQ_GOV_STOP事件，停止governor运行*/
    if (devfreq->governor)
        devfreq->governor->event_handler(devfreq,  DEVFREQ_GOV_STOP, NULL);

    /*如果OPP device注册的有exit()，调用它*/
    if (devfreq->profile->exit)
        devfreq->profile->exit(devfreq->dev.parent);
}

 

四、架构设计

1.devfreq framework将多种OPP device和多种governor进行抽象，对OPP device提供了统一的接口，来满足其对devfreq的需求。对governor提供统一的实现格式，为后续扩展不同governor，提供很好的架构支持。是一个典型的子系统实现模式。为后续在我们自己做子系统架构设计，提供了一个很好的参考。

 

2. 用户空间文件节点

devfreq framework不仅为Kernel空间的设备驱动提供了标准化接口，也为user空间提供了标准化的文件节点，方便user空间的程序，更好的监控和修改。相关文件节点介绍内核文档：kernel/Documentation/ABI/testing/sysfs-class-devfreq(-event)。

/sys/class/devfreq/xxx.ufshc # ls -l
-r--r--r-- 1 root root 4096 2020-06-07 18:15 available_frequencies
-r--r--r-- 1 root root 4096 2020-06-07 18:15 available_governors
-r--r--r-- 1 root root 4096 2020-06-07 18:15 cur_freq
lrwxrwxrwx 1 root root    0 2020-06-01 10:57 device -> ../../../xxx.ufshc
-rw-r--r-- 1 root root 4096 2020-06-07 18:15 governor
-rw-rw-r-- 1 root root 4096 2020-06-07 18:15 max_freq
-rw-rw-r-- 1 root root 4096 2020-06-07 18:15 min_freq
-rw-r--r-- 1 root root 4096 2020-06-07 18:15 polling_interval
drwxr-xr-x 2 root root    0 2020-06-07 18:15 power
lrwxrwxrwx 1 root root    0 2020-06-01 10:57 subsystem -> ../../../../../../class/devfreq
-r--r--r-- 1 root root 4096 2020-06-07 18:15 target_freq
-r--r--r-- 1 root root 4096 2020-06-07 18:15 trans_stat
-rw-r--r-- 1 root root 4096 1970-02-25 01:42 uevent

available_frequencies: 可用的频率列表

available_governors：可用的governor

cur_freq：当前频率

governor: 当前governor

max_freq：最大频率

min_freq ：最小频率

polling_interval：governor调度的时间间隔，单位是ms.

target_freq：目标频率

trans_stat：状态调整表记录

代码实现位置：kernel/drivers/devfreq/devfreq.c //struct attribute *devfreq_attrs[]

 

五、调试笔记和总结

1.可以cat trans_stat来查看频率转移表。

/sys/class/devfreq/xxx.ufshc # cat trans_stat
     From  :   To
           :  37500000 300000000   time(ms)
*  37500000:         0       133   3343228
  300000000:       133         0    162660
Total transition : 266

2.TODO: 解释每一个governor的算法
/sys/class/devfreq/xxx.ufshc # cat available_governors
cdspl3 compute mem_latency bw_hwmon vidc-ar50-llcc vidc-ar50-ddr msm-vidc-llcc msm-vidc-ddr gpubw_mon bw_vbif msm-adreno-tz userspace powersave performance simple_ondemand

 

 

参考： https://blog.csdn.net/feelabclihu/article/details/105592301