[PHP] 高性能 Java 计算服务的性能调优实战

      

• 提高并发数，比如提升单机的并行线程数，或者横向扩容机器数；
        
  
• 降低平均响应时间 RT，包括应用线程（业务逻辑）执行时间，以及 JVM 本身的 GC 耗时。
        
  

import java.util.ArrayList;import java.util.List;import org.apache.commons.lang3.StringUtils;  /** * 自定义split工具 */public class SplitUtils {    /**   * 自定义分割函数，返回第一个   *   * @param str   待分割的字符串   * @param delim 分隔符   * @return 分割后的第一个字符串   */  public static String splitFirst(final String str, final String delim) {    if (null == str || StringUtils.isEmpty(delim)) {      return str;    }      int index = str.indexOf(delim);    if (index < 0) {      return str;    }    if (index == 0) {      // 一开始就是分隔符，返回空串      return "";    }      return str.substring(0, index);  }    /**   * 自定义分割函数，返回全部   *   * @param str   待分割的字符串   * @param delim 分隔符   * @return 分割后的返回结果   */  public static List<String> split(String str, final String delim) {    if (null == str) {      return new ArrayList<>(0);    }      if (StringUtils.isEmpty(delim)) {      List<String> result = new ArrayList<>(1);      result.add(str);        return result;    }      final List<String> stringList = new ArrayList<>();    while (true) {      int index = str.indexOf(delim);      if (index < 0) {        stringList.add(str);        break;      }      stringList.add(str.substring(0, index));      str = str.substring(index + delim.length());    }    return stringList;  }  }

      

• 放弃正则表达式的支持，仅支持按分隔符进行 split；
        
  
• 出参直接返回 list。分割处理实现，与原生实现中针对单字符的处理类似，使用 string.indexOf 及 string.substring 方法，分割结果放入 list 中，出参直接返回 list，减少数据转换处理；
        
  
• 提供 splitFirst 方法，业务场景只需要分隔符前第一段字符串时，进一步提升性能。
       
  

      

• 业务中确实需高频调用，特征交叉处理后数量膨胀，单机的调用并发达到了约 1000w ops/s。
        
  
• 权重 map 本身也很大，存储了 1000 万多的 entry，占用了很大一块内存；同时 hash 碰撞的概率也增大，碰撞时的查询效率由 O(1) 降低成了 O(n) （链表） 或 O(logn) （红黑树）。
       
  

public boolean equals(Object anObject) {     if (this == anObject) {       return true;     }     if (anObject instanceof String) {       String anotherString = (String)anObject;       int n = value.length;       if (n == anotherString.value.length) {         char v1[] = value;         char v2[] = anotherString.value;         int i = 0;         while (n-- != 0) {           if (v1[i] != v2[i])             return false;           i++;         }         return true;       }     }     return false;   }

      

• 算法同学将特征 key 映射成 long 型数值，映射方法为自定义的 hash 实现，尽量减少 hash 碰撞概率；
        
  
• 算法同学训练输出新模型的权重 map ，可以保留更多 entry ，以打平基线模型的效果指标；
        
  
• 打平基线模型的效果指标后，在线服务端灰度新模型，权重 map 的 key 改用 long 型，验证性能指标。
       
  

      

• 第 1 大对象是本地缓存，存储了细粒度级别的常用数据，每台机器千万级别数据量；使用 caffine 缓存组件，缓存自动刷新周期设定 1 小时；目的是尽量减少 IO 查询次数；
        
  
• 第 2 大对象是模型权重 map 本身，常驻内存中，不会 update，等新模型载入后被作为旧模型进行卸载。
       
  

      

• 数据存储在堆外，只有少量元数据存储堆内，不影响 GC
        
  
• 支持为每个缓存项设置过期时间
        
  
• 支持配置 LRU、W_TinyLFU 驱逐策略
        
  
• 能够维护大量的缓存条目
        
  
• 支持异步加载缓存
        
  
• 读写速度在微秒级别
       
  

OHCache ohCache = OHCacheBuilder.newBuilder().    keySerializer(yourKeySerializer)    .valueSerializer(yourValueSerializer)    .build();

      

• vivo 基于 JaCoCo 的测试覆盖率设计与实践
        
  
• 密集计算场景下的 JNI 实战
        
  
• HttpClient 在vivo内销浏览器的高并发实践优化