如何使用日志记录
Flink中的日志记录是使用slf4j日志记录界面实现的。作为底层日志记录框架,使用log4j。我们还提供了logback配置文件,并将它们作为属性传递给JVM。愿意使用logback而不是log4j的用户可以只排除log4j(或从lib /文件夹中删除它)。
配置Log4j
使用属性文件控制Log4j。在Flink的情况下,通常会调用该文件log4j.properties
。我们使用-Dlog4j.configuration=
参数将此文件的文件名和位置传递给JVM。
Flink附带以下默认属性文件:
log4j-cli.properties
:由Flink命令行客户端(例如flink run
)使用(不是在集群上执行的代码)log4j-yarn-session.properties
:启动YARN会话时由Flink命令行客户端使用(yarn-session.sh
)log4j.properties
:JobManager / Taskmanager日志(独立和YARN)
配置回溯
对于用户和开发人员来说,控制日志记录框架非常重要。日志框架的配置完全由配置文件完成。必须通过设置environment属性-Dlogback.configurationFile=<file>
或通过放入logback.xml
类路径来指定配置文件。该conf
目录包含一个logback.xml
可以修改的文件,如果在IDE外部启动Flink并使用提供的启动脚本,则使用该文件。提供logback.xml
的内容如下:
<configuration>
<appender name="file" class="ch.qos.logback.core.FileAppender">
<file>${log.file}</file>
<append>false</append>
<encoder>
<pattern>%d{HH:mm:ss.SSS} [%thread] %-5level %logger{60} %X{sourceThread} - %msg%n</pattern>
</encoder>
</appender>
<root level="INFO">
<appender-ref ref="file"/>
</root>
</configuration>
org.apache.flink.runtime.jobgraph.JobGraph
例如,为了控制日志记录级别,必须将以下行添加到配置文件中。
<logger name="org.apache.flink.runtime.jobgraph.JobGraph" level="DEBUG"/>
有关配置logback的更多信息,请参阅LOGback手册。
开发人员的最佳实践
使用slf4j的记录器是通过调用创建的
import org.slf4j.LoggerFactory
import org.slf4j.Logger
Logger LOG = LoggerFactory.getLogger(Foobar.class)
为了从slf4j中获益最多,建议使用其占位符机制。使用占位符可以避免不必要的字符串构造,以防日志记录级别设置得太高,以至于不会记录消息。占位符的语法如下:
LOG.info("This message contains {} placeholders. {}", 2, "Yippie");
占位符也可以与应记录的异常一起使用。
catch(Exception exception){
LOG.error("An {} occurred.", "error", exception);
}